Rozpoczęty na początku XIII wieku jako zastąpienie wcześniejszego romańskiego kościoła, Budowa kontynuowana była przez resztę wieku w lokalnym stylu gotyckim Skaldy (nazwa pochodzi od pobliskiej rzeki). Charakterystyczne dla tego stylu jest wykorzystanie niebiesko-szarego kamienia z okolic Tournai, pojedynczej dużej wieży nad skrzyżowaniem oraz smukłych wieżyczek w narożach budynku.
Zbudowany w starym centrum handlowym Gandawy, obok tętniącego życiem Korenmarkt (Rynek pszenicy), Kościół św. Mikołaja był popularny wśród cechów, których członkowie prowadzili swoją działalność w pobliżu. Cechowie posiadali własne kaplice, które w XIV i XV wieku dobudowano do boków kościoła.
Centralna Wieża, częściowo finansowana przez miasto, służyła jako punkt obserwacyjny i przenosiła dzwony miejskie, dopóki nie zbudowano sąsiedniej dzwonnicy Gandawy. Te dwie wieże, wraz z Katedrą Saint Bavo, nadal definiują słynną średniowieczną panoramę centrum miasta. Jednym ze skarbów kościoła są jego organy, produkowane przez słynnego francuskiego budowniczego organów Aristide Cavaillé-Coll.
Budynek stopniowo pogarszał się na przestrzeni wieków, do tego stopnia, że zagrażał jego stabilności. Pęknięcia zostały pokryte tynkiem, zamurowano okna w celu wzmocnienia ścian, a w XVIII wieku na zniszczonych fasadach wzniesiono małe domy i sklepy. Zainteresowanie kościołem jako zabytkiem pojawiło się około 1840 roku, a na przełomie XX i XX wieku pojawiły się poważne plany renowacji. Domy przy kościele zostały wyburzone i od tego czasu przeprowadzono wiele prac remontowych.
