Църквата има бурна история. През 512 г. Сен Жермен, който по-късно става епископ на Париж, убеждава Меровингския крал Чайлдебер да построи абатство с църква. Църквата, в която се съхраняват важни реликви, е посветена на Свети Винсент и Светия кръст. Това е една от най-важните църкви във Франция и последното място за почивка на Меровингите. Покривът му е боядисан в злато, което води до името Сен Жермен-Льо-Дорé (позлатен Сен Жермен). През девети век църквата е била претърсвана няколко пъти от викингите и в крайна сметка унищожена от пожар. Около 1000 г.започва реконструкцията на църквата и в крайна сметка е посветена през 1163 г. През късното средновековие в бенедиктинския абатски комплекс са издигнати редица допълнителни сгради, които се превръщат в една от най-големите и важни във Франция.
По време на Френската революция религиозните ордени са потиснати и абатството е използвано като склад. Голяма експлозия от барут, съхранявана в трапезарията, разрушава почти целия комплекс и нанася сериозни щети на църквата.
Църквата днес Сегашният вид на църквата е резултат от обновяването през деветнадесети век, когато архитект Виктор Балтард и художникът Жан-Иполит Фландрин са помолени да възстановят църквата до предишното й великолепие.
Екстериорът на църквата се определя от нейната здрава камбанария, една от най-старите в цяла Франция. Още две кули, построени от двете страни на трансепта, не оцеляват по време на революцията. Интериорът показва смесица от различни архитектурни стилове, резултат от продължаващото строителство през вековете. Оригиналните колони от шести век поддържат хора от дванадесети век; Романските арки са съчетани с готически сводове и дори има барокови елементи. В параклисите на църквата има няколко интересни гробници, включително тези на философа Ренé Декарт и Йоан втори Казимир Васа, който е бил крал на Полша през седемнадесети век, докато не става абат на абатството Сен-Жермен-де-Прé.
Квартал Сен-Жермен-де-Прé Църквата дава името си на квартал Сен-Жермен-де-Прé, оживен район в шести район, който спечели репутацията си на литературен район през ХХ век, когато писатели, интелектуалци и философи се срещнаха в един от многото си кафаé. Философът Жан Пол Сартр и Симон дьо Бовоар често се срещат в Кафеé де флоре, а Ърнест Хемингуей е чест гост на ле дьо две Маготи.
