Kościół miał burzliwą historię. W 512 roku n. e. Saint Germain, który później został biskupem Paryża, przekonał Króla Merowingów Childeberta do budowy opactwa z Kościołem. Kościół, w którym znajdowały się ważne relikwie, został poświęcony św. Wincentemu i Świętemu Krzyżowi. Był to jeden z najważniejszych kościołów we Francji i miejsce spoczynku królów Merowingów. Jego dach był pomalowany na złoto, co doprowadziło do nazwy "Saint-Germain-le-Doré" (pozłacany Saint Germain). W IX wieku kościół był kilkakrotnie splądrowany przez Wikingów i ostatecznie zniszczony przez pożar. Około roku 1000 rozpoczęto odbudowę kościoła, który ostatecznie poświęcono w roku 1163. W późnym średniowieczu w kompleksie opactwa benedyktyńskiego wzniesiono szereg dodatkowych budynków, które urosły do rangi jednego z największych i najważniejszych w całej Francji.
Podczas rewolucji francuskiej zakony zakonne zostały stłumione, a Opactwo zostało wykorzystane jako magazyn. Duża eksplozja prochu strzelniczego przechowywanego w refektarzu zniszczyła prawie cały kompleks i poważnie uszkodziła Kościół.
Kościół dzisiaj Obecny wygląd kościoła jest wynikiem remontu w XIX wieku, kiedy architekt Victor Baltard i malarz Jean-Hippolyte Flandrin zostali poproszeni o przywrócenie kościoła do dawnej świetności.
Na zewnątrz kościoła znajduje się solidna Dzwonnica, jedna z najstarszych we Francji. Dwie kolejne wieże zbudowane po obu stronach transeptu nie przetrwały epoki rewolucji. Wnętrze pokazuje mieszankę różnych stylów architektonicznych, w wyniku kontynuowania budowy na przestrzeni wieków. Oryginalne XVI-wieczne filary wspierają dwunastowieczny chór; romańskie łuki są połączone ze sklepieniem gotyckim, a nawet występują elementy barokowe. W kaplicach kościoła znajduje się kilka ciekawych grobów, w tym filozof René Descartes i Jan II Kazimierz Waza, który był królem Polski w XVII wieku, dopóki nie został opatem opactwa Saint-Germain-des-Prés.
Dzielnica Saint-Germain-des-Prés Kościół nadał swoją nazwę dzielnicy Saint-Germain-des-Prés, tętniącej życiem dzielnicy szóstej, która zyskała swoją reputację jako dzielnica literacka w XX wieku, gdy pisarze, intelektualiści i filozofowie spotykali się w jednej z wielu kawiarni. Filozof Jean Paul Sartre i Simone de Beauvoir często spotykali się w "Café De Flore", a Ernest Hemingway był częstym gościem w "Les Deux Magots".
