San Pietro fu fondata alla fine del VII secolo da Amando, un missionario inviato dai re franchi per cristianizzare gli abitanti pagani della regione, che fondò due monasteri nella zona, San Bavo e San Pietro sul Blandijnberg. Durante l'inverno dell'879-80, l'abbazia fu razziata e saccheggiata dai Normanni, e rimase relativamente povera fino al X secolo, quando le donazioni di proprietà e reliquie da parte del conte Arnulf I la arricchirono notevolmente, così come ulteriori donazioni da parte del cugino di Arnulf, il re Edgar d'Inghilterra. Nella seconda metà del secolo era l'abbazia più ricca delle Fiandre, e la reputazione della scuola abbaziale si estendeva ben oltre la città.
Nel 984, Gerberto di Aurillac, direttore della scuola cattedrale di Reims, (più tardi Papa Silvestro II) chiese se gli studenti di Reims potevano essere ammessi a San Pietro, e la sua fama come centro di artes liberales continuò fino all'XI secolo. San Pietro, grazie alla sua proprietà di grandi tratti di terra, giocò anche un ruolo pionieristico nella coltivazione durante il 12° e 13° secolo, trasformando foreste, paludi e acquitrini in terreni agricoli. Nel XV secolo un programma di costruzione su larga scala creò la biblioteca e lo scriptorium dell'abbazia, ampliò il refettorio e la chiesa abbaziale e altri edifici furono notevolmente abbelliti.
Il primo declino di San Pietro iniziò in seguito alla Rivolta di Gand del 1539, e negli anni 1560 i Paesi Bassi erano sprofondati in una crisi religiosa che sfociò in un attacco di iconoclasti nel 1566 in cui la chiesa dell'abbazia fu distrutta, la biblioteca saccheggiata e altri edifici gravemente danneggiati. L'infermeria fu messa in servizio come casa temporanea per i monaci e il refettorio fu usato come luogo di culto. Tuttavia l'opposizione continuò e nel 1578 l'abate e i monaci furono costretti a fuggire a Douai. Gli edifici dell'abbazia furono venduti all'asta pubblica e furono in parte demoliti, i materiali furono usati per costruire le mura della città. L'abbazia tornò finalmente nelle mani della chiesa nel 1584, e fu infine ricostruita, con una nuova chiesa abbaziale, iniziata nel 1629, in stile barocco, così come diverse altre nuove costruzioni e ristrutturazioni. Durante il XVIII secolo, l'abbazia era di nuovo fiorente, con la costruzione di nuovi edifici e l'ampliamento di quelli più vecchi, compresa la conversione del vecchio dormitorio in una biblioteca con più di diecimila libri.
Tuttavia, la fine non era lontana, prima con la rivoluzione del Brabante del 1789-90, poi con l'invasione francese del 1793. Infine, il 1° settembre 1796, il Direttorio abolì tutte le istituzioni religiose. Nel 1798 la biblioteca fu svuotata e infine portata all'Università di Gand. Dal 1798 la chiesa dell'abbazia fu usata come museo, ma fu restituita alla proprietà della chiesa nel 1801. Nel 1810, il resto dell'abbazia divenne proprietà della città di Gand, e fu parzialmente demolita per la costruzione di una caserma militare, che rimase sul posto fino al 1948.
Intorno al 1950 la città lanciò un programma di restauro, tuttora in corso, che iniziò con il chiostro e la sala capitolare, poi l'ala ovest, compreso il vecchio refettorio e le cucine. I lavori alle cantine e alle soffitte furono completati negli anni '70, e nel 1982 furono completati i lavori ai giardini dell'abbazia, e nel 1986 la terrazza. Negli anni '90 è iniziato il restauro dell'ala del refettorio.
L'abbazia è ora utilizzata come museo e centro espositivo, che nel 2000 ha ospitato una grande mostra nell'ambito dell'Anno dell'Imperatore Carlo, e nell'ottobre 2001 ha ospitato l'88° riunione del Consiglio Europeo.
Top of the World