Awalnya gereja yang dibangun pada abad ke-13 dan didedikasikan untuk Santo Nicolas, pelindung para pelaut ini merupakan gereja yang terbuat dari kayu. Pada akhir abad ke-13, keputusan diambil untuk membangun sebuah gereja batu. Oude Kerk pada awalnya berbentuk gereja aula Romawi, gereja pertama dari jenisnya di Belanda. Pada tahun 1306, gereja ini ditahbiskan oleh uskup Katolik Utrecht, Guy van Avesnes van Henegouwen, yang makam pahatannya masih bisa Anda lihat di Kubah Utrecht.Pada tahun 1340, Oude Kerk telah diperbesar menjadi bangunan yang sangat besar untuk sebuah kota yang pada saat itu berpenduduk tiga sampai empat ribu jiwa. Hebatnya, kebakaran besar di Amsterdam pada tahun 1421 dan 1452, yang menghancurkan kota yang sebagian besar terbuat dari kayu, tidak merusak Oude Kerk.Pada abad ke-14 dan ke-15, gereja ini merupakan gereja paroki Amsterdam, dan karena kota ini berkembang pesat, Oude Kerk beberapa kali dibangun kembali dan diperbesar. Pada tahun 1565, Oude Kerk menerima menara lonceng dan sejak saat itu arsitekturnya tidak banyak berubah.
