Algselt oli see 13. sajandil ehitatud ja meremeeste patroonile Püha Nikolausele pühendatud kirik puidust ehitatud. 13. sajandi lõpus otsustati ehitada kivikirik. Oude Kerk oli esialgu Rooma saalikiriku kujuga, esimene omalaadne kirik Madalmaades. 1306. aastal pühitses kiriku Utrechti katoliku piiskop Guy van Avesnes van Henegouwen, kelle skulptuuriga kaetud hauda võib tänapäevalgi näha Utrechti kuppelas.1340. aastal oli Oude Kerki suurendatud märkimisväärselt suureks ehitiseks linna jaoks, kus oli tol ajal kolm kuni neli tuhat elanikku. Imelikul kombel ei kahjustanud Oude Kerki 1421. ja 1452. aasta suured Amsterdami tulekahjud, mis hävitasid tollase peamiselt puidust ehitatud linna.14. ja 15. sajandil on kirik olnud Amsterdami kirikukogu ning kuna linn kasvas kiiresti, on Oude Kerki mitu korda ümber ehitatud ja laiendatud. Aastal 1565 sai Oude Kerk kellatorni ja sellest ajast alates ei ole selle arhitektuur palju muutunud.
