Pada asalnya ini dibina pada Abad ke-13 dan didedikasikan kepada St. Nicolas, penaung gereja kelasi, telah dibina daripada kayu. Pada penghujung 13 C. keputusan telah diambil untuk membina sebuah gereja batu. Oude Kerk pada mulanya mempunyai bentuk gereja dewan Rom, gereja pertama seumpamanya di Belanda. Pada tahun 1306, gereja itu telah ditahbiskan oleh uskup Katolik Utrecht Guy van Avesnes van Henegouwen, yang kuburnya masih boleh anda lihat di Kubah di Utrecht.Pada tahun 1340, Oude Kerk telah diperbesarkan kepada struktur yang sangat besar untuk sebuah bandar, yang pada masa itu mempunyai tiga hingga empat ribu penduduk. Hebatnya, kebakaran besar Amsterdam pada tahun 1421 dan 1452, yang kemudiannya musnah kebanyakannya dibina daripada bandar kayu, tidak merosakkan Oude Kerk.Pada Abad ke-14 dan ke-15, gereja itu telah menjadi gereja paroki Amsterdam, dan kerana bandar itu berkembang pesat, Oude Kerk telah beberapa kali dibina semula dan diperbesarkan. Pada tahun 1565, Oude Kerk menerima menara loceng dan sejak itu seni binanya tidak banyak berubah.