Başlangıçta 13. yüzyılda inşa edilen ve denizcilerin koruyucusu Aziz Nicolas'a adanan bu kilise ahşap bir yapıydı. 13. yüzyılın sonunda taştan bir kilise inşa edilmesine karar verilmiştir. Oude Kerk ilk başta, Hollanda'da türünün ilk örneği olan bir Roma salon kilisesi biçimindeydi. Kilise 1306 yılında Utrecht'in Katolik piskoposu Guy van Avesnes van Henegouwen tarafından kutsanmıştır ki bu piskoposun heykelli mezarı halen Utrecht'teki Dome'da görülebilir.1340 yılında Oude Kerk, o zamanlar üç ila dört bin nüfusu olan bir şehir için oldukça büyük bir yapıya dönüştürülmüştür. Şaşırtıcı bir şekilde, 1421 ve 1452 yıllarında Amsterdam'da meydana gelen ve o zamanlar çoğunlukla ahşaptan inşa edilen kenti harap eden büyük yangınlar Oude Kerk'e zarar vermemiştir.Kilise 14. ve 15. yüzyıllarda Amsterdam'ın kilisesi olarak kullanılmış ve şehir hızla büyüdüğü için Oude Kerk birkaç kez yeniden inşa edilmiş ve genişletilmiştir. Oude Kerk 1565 yılında çan kulesine kavuşmuş ve o zamandan beri mimarisi pek değişmemiştir.