Tiba dari jalan sempit yang turun dari Porta Romana untuk mengelilingi kota, orang menemukan gereja kecil yang terletak tepat sebelum sub-portico Bisleti. Pada zaman kuno, ini adalah situs Porta Piccola, yang, sampai gempa bumi tahun 1350, mengarah ke Basilika Santa Salome melalui lereng yang curam.
Di sepanjang jalan ini pada abad ke-13, umat beriman memiliki gambar Madonna yang dilukis di atas batu, yang kemudian tetap tersembunyi selama berabad-abad di bawah puing-puing gempa bumi. Pada tahun 1722, patung kuno itu kembali muncul dan orang-orang Verola menyebutnya 'Madonna dell'Olivello', sesuai dengan nama pohon zaitun yang tumbuh di samping batu itu. Pada waktu itu, sebuah kuil segi delapan kecil dibangun di lokasi tersebut dan dinding penahan ditinggikan di sekitar area tersebut, yang curam dan penuh dengan tebing. Kemudian, bangunan itu diperbesar berkat kemurahan hati Kardinal Bisleti (dimakamkan di sini) dan menjadi Gereja Olivella yang sekarang.