El complejo monumental de Sant'Orso se encuentra en una zona que antiguamente estaba ocupada por una necrópolis fuera de las murallas romanas. Durante el siglo V, se construyó en las inmediaciones la basílica paleocristiana de San Lorenzo, que consistía en una sala absidal en la que se realizaban enterramientos privilegiados. Debido a los incendios e inundaciones que destruyeron San Lorenzo y Sant'Orso, esta última iglesia fue reconstruida y ampliada en el siglo IX, convirtiéndose en la más importante del conjunto. Fue el obispo Anselmo quien promovió una campaña de construcción románica a principios del siglo XI. El claustro es la verdadera joya del conjunto monumental de Sant'Orso, al que se accede por un pasillo abierto a la derecha de la fachada. La primitiva estructura románica data casi con toda seguridad de 1132 y fue obra de artesanos de Provenza o Lombardía; cuando la bula del papa Inocencio II impuso la regla de San Agustín a los canónigos de Sant'Orso, el claustro ya existía, como demuestra una inscripción en un capitel. Los capiteles, tallados en mármol pero ya cubiertos de barniz oscuro en la antigüedad, complementan columnas simples y pareadas de diferentes formas y representan admirablemente escenas simbólicas del Nuevo y el Antiguo Testamento, de la vida de San Ursus, personajes fantásticos y animales o contienen diversos elementos decorativos. Se consideran una de las máximas expresiones de la escultura religiosa románica. De esta época es también el importante ciclo de frescos ottonianos que se puede visitar en el ático: uno de los ejemplos mejor conservados en Europa del arte pictórico del siglo XI, junto con los frescos de la catedral de Aosta, representan historias de la vida de Cristo intercaladas con elementos decorativos. Estas pinturas se han conservado afortunadamente hasta hoy, "escondidas" en el ático, gracias a un proyecto de construcción del gótico tardío encargado por el prior Giorgio di Challant. Junto a la iglesia se puede admirar el Priorato, un edificio construido a instancias de Giorgio di Challant y caracterizado por los azulejos de terracota que recuerdan el castillo de Issogne y las intervenciones encargadas por el propio prior para esa residencia familiar. En la primera planta del edificio se puede visitar la capilla privada de Giorgio di Challant, un mecenas ilustrado de la época.