Prvotno je bila ta cerkev, zgrajena v 13. stoletju in posvečena svetemu Nikolaju, zavetniku pomorščakov, lesena. Konec 13. stoletja so se odločili za gradnjo kamnite cerkve. Oude Kerk je imela sprva obliko rimske dvoranske cerkve, prve tovrstne cerkve na Nizozemskem. Leta 1306 je cerkev posvetil katoliški škof v Utrechtu Guy van Avesnes van Henegouwen, katerega izklesan grob si lahko še vedno ogledate na kupoli v Utrechtu.Leta 1340 je bila cerkev Oude Kerk povečana na izjemno veliko zgradbo za mesto, ki je takrat imelo tri do štiri tisoč prebivalcev. Čudovito je, da velika požara v Amsterdamu leta 1421 in 1452, ki sta uničila takrat večinoma leseno mesto, nista poškodovala cerkve Oude Kerk.V 14. in 15. stoletju je bila cerkev amsterdamska župnijska cerkev, ker pa je mesto hitro raslo, je bila Oude Kerk večkrat obnovljena in povečana. Leta 1565 je cerkev Oude Kerk dobila zvonik in od takrat se njena arhitektura ni veliko spremenila.
