Upphaflega var þetta byggt á 13. öld og tileinkað St. Nicolas, verndara sjómannakirkjunnar, verið timburbygging. Í lok 13. aldar var ákveðið að byggja steinkirkju. Oude Kerk hafði í fyrstu mynd af rómverskri salkirkju, fyrstu kirkju sinnar tegundar í Hollandi. Árið 1306 hefur kaþólski biskupinn í Utrecht, Guy van Avesnes van Henegouwen, vígt kirkjuna, en þú gætir enn séð myndhöggvaða gröf hans við hvelfinguna í Utrecht.Árið 1340 hafði Oude Kerk verið stækkað í ótrúlega stórt mannvirki fyrir borg sem hafði á þeim tíma þrjú til fjögur þúsund íbúa. Dásamlegt, stóru eldarnir í Amsterdam 1421 og 1452, sem eyðilögðu þá að mestu byggð úr viðarbæ, skemmdu ekki Oude Kerk.Á 14. og 15. öld hefur kirkjan verið kirkjukirkja í Amsterdam og vegna þess að borgin óx hratt hefur Oude Kerk verið endurbyggð og stækkuð nokkrum sinnum. Árið 1565 fékk Oude Kerk klukkuturninn og síðan þá breyttist arkitektúr hans ekki mikið.
