Commencée au début du XIIIe siècle pour remplacer une église romane antérieure, la construction s'est poursuivie pendant le reste du siècle dans le style gothique local de l'Escaut (du nom de la rivière voisine). L'utilisation de la pierre bleu-gris de la région de Tournai, la grande tour unique au-dessus de la croisée et les tourelles élancées aux coins de l'édifice sont typiques de ce style.
Construite dans l'ancien centre commercial de Gand, près du Korenmarkt (marché au blé), l'église Saint-Nicolas était très appréciée des guildes dont les membres exerçaient leurs activités à proximité. Les guildes avaient leurs propres chapelles qui ont été ajoutées sur les côtés de l'église aux 14e et 15e siècles.
La tour centrale, financée en partie par la ville, servait de poste d'observation et portait les cloches de la ville jusqu'à la construction du beffroi voisin de Gand. Ces deux tours, ainsi que la cathédrale Saint-Bavon, définissent toujours la célèbre ligne d'horizon médiévale du centre ville. L'un des trésors de l'église est son orgue, réalisé par le célèbre facteur d'orgue français Aristide Cavaillé-Coll.
L'édifice s'est progressivement détérioré au fil des siècles, au point de menacer sa stabilité. Les fissures ont été recouvertes de plâtre, les fenêtres ont été murées pour renforcer les murs, et au 18e siècle, des petites maisons et des boutiques ont été construites contre les façades délabrées. L'intérêt pour l'église en tant que monument historique est apparu vers 1840, et au début du XXe siècle, de grands plans de restauration ont vu le jour. Les maisons situées à côté de l'église ont été démolies et de nombreux travaux de rénovation ont été effectués depuis lors.
