Izvorno ova crkva sagrađena u 13. stoljeću i posvećena sv. Nikoli, zaštitniku pomoraca, bila je drvena konstrukcija. Krajem 13. st. donesena je odluka o izgradnji kamene crkve. Oude Kerk je isprva imala oblik rimske dvoranske crkve, prve crkve takve vrste u Nizozemskoj. Godine 1306. crkvu je posvetio katolički biskup Utrechta Guy van Avesnes van Henegouwen, čiji skulpturirani grob još uvijek možete vidjeti na Kupoli u Utrechtu.Godine 1340. Oude Kerk je proširen u nevjerojatno veliku strukturu za grad, koji je u to vrijeme imao tri do četiri tisuće stanovnika. Začudo, veliki požari u Amsterdamu 1421. i 1452. godine, koji su uništili tada uglavnom izgrađen grad od drveta, nisu oštetili Oude Kerk.U 14. i 15. stoljeću crkva je bila amsterdamska župna crkva, a budući da je grad brzo rastao, Oude Kerk je nekoliko puta pregrađivana i povećavana. Godine 1565. Oude Kerk je dobio zvonik i od tada se njegova arhitektura nije mnogo mijenjala.