Eredetileg ez a 13. században épült, Szent Miklósnak, a tengerészek védőszentjének szentelt templom fából készült. A 13. század végén döntöttek úgy, hogy kőtemplomot építenek. Az Oude Kerk eleinte római csarnoktemplom formájú volt, az első ilyen jellegű templom Hollandiában. A templomot 1306-ban Guy van Avesnes van Henegouwen utrechti katolikus püspök szentelte fel, akinek szoboralakú sírját ma is láthatjuk az utrechti dómban.1340-ben az Oude Kerket az akkoriban három-négyezer lakosú városhoz képest figyelemre méltó méretűvé bővítették. Csodálatos módon Amszterdam 1421-es és 1452-es nagy tűzvészei, amelyek tönkretették az akkoriban nagyrészt fából épült várost, nem tettek kárt az Oude Kerkben.A 14. és 15. században a templom Amszterdam plébániatemploma volt, és mivel a város gyorsan növekedett, az Oude Kerket többször átépítették és kibővítették. 1565-ben az Oude Kerk megkapta a harangtornyot, és azóta építészete nem sokat változott.
