Oorspronkelijk was deze in de 13e eeuw gebouwde en aan Sint-Nicolaas, patroon van de zeelieden, gewijde kerk een houten constructie. Aan het eind van de 13e eeuw werd besloten een stenen kerk te bouwen. De Oude Kerk had aanvankelijk de vorm van een roomse hallenkerk, de eerste kerk van dit type in Nederland. In 1306 werd de kerk ingewijd door de katholieke bisschop van Utrecht Guy van Avesnes van Henegouwen, wiens gebeeldhouwde graf nog steeds te zien is bij de Koepel in Utrecht.In 1340 was de Oude Kerk vergroot tot een opmerkelijk groot bouwwerk voor een stad, die toen drie- tot vierduizend inwoners telde. De grote branden van Amsterdam in 1421 en 1452, die de toen grotendeels uit hout opgetrokken stad verwoestten, hebben de Oude Kerk wonderwel niet beschadigd.In de 14e en 15e eeuw was de kerk de parochiekerk van Amsterdam, en omdat de stad snel groeide, werd de Oude Kerk meerdere malen verbouwd en vergroot. In 1565 kreeg de Oude Kerk een klokkentoren en sindsdien is de architectuur niet veel veranderd.