Prvobitno sagrađena u 13. veku i posvećena Svetom Nikoli, zaštitniku mornara, bila je drvena konstrukcija. Krajem 13. stoljeća donesena je odluka o izgradnji kamene crkve. Oude Kerk je u početku imao oblik rimske dvoranske crkve, prve crkve te vrste u Holandiji. Godine 1306. crkvu je posvetio katolički biskup Utrechta Guy van Avesnes van Henegouwen, čiji izvajani grob još uvijek možete vidjeti na Domeu u Utrechtu.Godine 1340. Oude Kerk je proširen na izuzetno veliku strukturu za grad koji je u to vrijeme imao tri do četiri hiljade stanovnika. Čudesno, veliki požari u Amsterdamu 1421. i 1452. godine, koji su uništili tada uglavnom izgrađen grad od drveta, nisu oštetili Oude Kerk.U 14. i 15. veku, crkva je bila amsterdamska parohijska crkva, a kako je grad brzo rastao, Oude Kerk je nekoliko puta obnavljan i uvećavan. Godine 1565. Oude Kerk je dobio zvonik i od tada se njegova arhitektura nije mnogo promijenila.
