En arrivant par la route étroite qui descend de Porta Romana pour encercler la ville, on trouve la petite église située juste avant le sous-portique Bisleti. Dans l'Antiquité, c'était le site de la Porta Piccola qui, jusqu'au tremblement de terre de 1350, menait à la basilique de Santa Salome par une pente raide.
Le long de ce chemin, au XIIIe siècle, les fidèles ont fait peindre l'image de la Madone sur un rocher, qui est ensuite resté caché pendant de nombreux siècles sous les décombres du tremblement de terre. En 1722, l'ancienne effigie est revenue à la lumière et les habitants de Verola l'ont appelée "Madonna dell'Olivello", du nom de l'olivier qui avait poussé près du rocher. À cette époque, un petit temple octogonal a été construit sur le site et des murs de soutènement ont été élevés autour de la zone, qui était abrupte et pleine de falaises. Plus tard, le bâtiment a été agrandi grâce à la générosité du cardinal Bisleti (enterré ici) et est devenu l'actuelle église de l'Olivella.