Oprindeligt var denne kirke, der blev bygget i det 13. århundrede og var dedikeret til Sankt Nicolas, sømændenes protektor, en trækonstruktion. I slutningen af det 13. århundrede blev det besluttet at bygge en stenkirke. Oude Kerk havde i første omgang form af en romersk halkirke, den første kirke af sin art i Nederlandene. I 1306 blev kirken indviet af den katolske biskop af Utrecht Guy van Avesnes van Henegouwen, hvis skulpturelle grav man stadig kan se i domkirken i Utrecht.I 1340 blev Oude Kerk udvidet til en bemærkelsesværdig stor bygning for en by, der på det tidspunkt havde 3-4.000 indbyggere. De store brande i Amsterdam i 1421 og 1452, som ødelagde den daværende by, der var bygget hovedsagelig af træ, beskadigede heldigvis ikke Oude Kerk.I det 14. og 15. århundrede har kirken været Amsterdams sognekirke, og fordi byen voksede hurtigt, er Oude Kerk flere gange blevet ombygget og udvidet. I 1565 fik Oude Kerk et klokketårn, og siden da har dens arkitektur ikke ændret sig meget.
