Stavba byla zahájena na počátku 13. století jako náhrada za starší románský kostel a pokračovala po zbytek století v místním Scheldtově gotickém stylu (pojmenovaném po nedaleké řece). Typické pro tento styl je použití modrošedého kamene z oblasti Tournai, jediné velké věže nad přechodem a štíhlých věží v rozích budovy.
Kostel svatého Mikuláše, postavený ve starém obchodním centru Gentu vedle rušného trhu s pšenicí, byl oblíbený u cechů, jejichž členové podnikali poblíž. Cechy měly své vlastní kaple, které byly přidány do stran kostela ve 14. a 15. století.
Centrální věž, který byl částečně financován městem, sloužil jako pozorovací stanoviště a nesl městské zvony, dokud nebyla postavena sousední zvonice v Gentu. Tyto dvě věže spolu s katedrálou svatého Bavo stále definují slavné středověké panorama centra města. Jedním z pokladů kostela jsou jeho varhany, které vyrobil slavný francouzský varhanář Aristide Cavaillé-Coll.
Budova se v průběhu staletí postupně zhoršovala, do té míry, která ohrožovala její stabilitu. Trhliny byly překryty omítkou, okna byla zděná, aby se zpevnily stěny, a v 18. století byly proti zchátralým fasádám postaveny malé domy a obchody. Zájem o kostel jako historickou památku vznikl kolem roku 1840 a na přelomu 20. století se objevily velké restaurátorské plány. Domy vedle kostela byly zbořeny a od té doby bylo provedeno mnoho rekonstrukčních prací.
