Ursprünglich war diese im 13. Jahrhundert erbaute und dem Heiligen Nikolaus, dem Schutzpatron der Seeleute, geweihte Kirche eine Holzkonstruktion. Ende des 13. Jahrhunderts entschied man sich für den Bau einer Steinkirche. Die Oude Kerk hatte zunächst die Form einer römischen Hallenkirche, der ersten Kirche ihrer Art in den Niederlanden. Im Jahr 1306 wurde die Kirche vom katholischen Bischof von Utrecht Guy van Avesnes van Henegouwen eingeweiht, dessen skulptiertes Grab noch heute im Dom zu Utrecht zu sehen ist. Im Jahr 1340 wurde die Oude Kerk zu einem für eine Stadt, die damals drei- bis viertausend Einwohner zählte, bemerkenswert großen Bauwerk erweitert. Es ist erstaunlich, dass die großen Brände von Amsterdam in den Jahren 1421 und 1452, die die damals hauptsächlich aus Holz gebaute Stadt zerstörten, der Oude Kerk nichts anhaben konnten. Im 14. und 15. Jahrhundert war die Kirche die Amsterdamer Pfarrkirche, und da die Stadt schnell wuchs, wurde die Oude Kerk mehrmals umgebaut und vergrößert. Im Jahr 1565 erhielt die Oude Kerk einen Glockenturm, und seitdem hat sich ihre Architektur nicht mehr wesentlich verändert.