Orixinalmente esta construída no século XIII e dedicada a San Nicolás, patrón dos mariñeiros, fora unha construción de madeira. A finais do século XIII tomouse a decisión de construír unha igrexa de pedra. A Oude Kerk tiña ao principio a forma dunha igrexa sala romana, a primeira igrexa deste tipo nos Países Baixos. En 1306, a igrexa foi consagrada polo bispo católico de Utrecht Guy van Avesnes van Henegouwen, cuxa tumba esculpida aínda podes ver na cúpula de Utrecht.En 1340, a Oude Kerk foi ampliada ata unha estrutura notablemente grande para unha cidade, que tiña naquel momento entre tres e catro mil habitantes. Sorprendentemente, os grandes incendios de Ámsterdam en 1421 e 1452, que arruinaron a cidade construída na súa maioría en madeira, non danaron a Oude Kerk.Nos séculos XIV e XV, a igrexa foi a igrexa parroquial de Amsterdam, e debido a que a cidade creceu rapidamente, a Oude Kerk foi reconstruída e ampliada varias veces. En 1565 o Oude Kerk recibiu o campanario e desde entón a súa arquitectura non cambiou moito.