Le complexe monumental de Sant'Orso est situé dans une zone autrefois occupée par une nécropole hors des murs romains. Au cours du Ve siècle, la basilique paléochrétienne de San Lorenzo a été construite dans les environs immédiats, consistant en une salle absidale qui était le lieu de sépultures privilégiées. En raison des incendies et des inondations qui ont détruit San Lorenzo et Sant'Orso, cette dernière église a été reconstruite et agrandie au IXe siècle, devenant ainsi la plus importante du complexe. C'est l'évêque Anselm qui a promu une campagne de construction romane au début du 11e siècle. Le cloître, véritable joyau du complexe monumental de Sant'Orso, est accessible par un couloir ouvert à droite de la façade. La structure romane primitive remonte presque certainement à 1132 et est l'œuvre d'artisans provençaux ou lombards ; lorsque la bulle du pape Innocent II imposa la règle de saint Augustin aux chanoines de Sant'Orso, le cloître existait déjà, comme le montre une inscription sur un chapiteau. Les chapiteaux, sculptés dans le marbre mais déjà recouverts d'un vernis foncé à l'époque antique, complètent des colonnes simples et jumelées de différentes formes et représentent admirablement des scènes symboliques du Nouveau et de l'Ancien Testament, de la vie de saint Ursus, des personnages et des animaux fantastiques ou contiennent divers éléments décoratifs. Ils sont considérés comme l'une des plus hautes expressions de la sculpture religieuse romane. C'est également à cette époque que remonte l'important cycle de fresques ottoniennes que l'on peut visiter dans le grenier : l'un des exemples les mieux conservés en Europe de l'art pictural du XIe siècle, avec les fresques de la cathédrale d'Aoste, elles représentent des récits de la vie du Christ entrecoupés d'éléments décoratifs. Ces peintures ont heureusement été conservées jusqu'à aujourd'hui, "cachées" dans le grenier, grâce à un projet de construction de style gothique tardif commandé par le prieur Giorgio di Challant. À côté de l'église, on peut admirer le Prieuré, un bâtiment construit sur l'ordre de Giorgio di Challant et caractérisé par des tuiles en terre cuite rappelant le château d'Issogne et les interventions commandées par le prieur lui-même pour cette résidence familiale. Au premier étage du bâtiment, vous pouvez visiter la chapelle privée de Giorgio di Challant, un mécène éclairé de l'époque.