Šv.Viperti yra bažnyčia, dedikuota šv.Vigbertui ir šv.Jokūbui. Ji laikoma romaninio stiliaus architektūros šedevru, o bažnyčia ir kripta liudija apie svarbią jos praeitį, kai joje buvo Saksonijos-Otonijos valdančiosios dinastijos karališkasis dvaras. Bažnyčia su daugiau nei 1000 metų senumo kripta yra vienas paskutinių šios svarbios Otonų valdos liekanų. Henrikui I (919-936) ir jo sūnui Otonui I Didžiajam (936-973) Kvedlinburgas buvo vieta, kur jie dažniausiai švęsdavo rytmetį. Kvedlinburge tai vėlgi buvo vietovė, esanti Švento Viperčio bažnyčioje ir aplink ją, kur jie gyveno. Vėliau šioje aikštėje buvo pastatytas laisvųjų kanauninkų vienuolynas, kuris XII a. buvo paverstas premonstratiečių vienuolynu. Po reformacijos, dėl kurios vienuolynas buvo panaikintas, bažnyčia iki XIX a. buvo naudojama kaip protestantų parapinė bažnyčia. Vėliau ji buvo paversta tvartu, o vėliau ją piktnaudžiavo SS.
XX a. šeštajame dešimtmetyje ji buvo restauruota kaip bažnyčia ir nuo to laiko vasaros mėnesiais naudojama kaip katalikų parapijos bažnyčia.