Terletak di dekat tebing berbatu dan diukir hampir seluruhnya ke dalam batu, tempat suci ini dibangun di mana kisah penampakan Bunda Maria kepada seorang gadis dari Campolemisi sekitar tahun 1000. Gambar suci tersebut, yang digambarkan dalam patung kayu willow, yang masih ada dan menjadi objek pengabdian, dihormati dengan nama Madonna della Penna. Bulan Mei secara tradisional didedikasikan untuk Madonna dan melihat kehadiran banyak orang yang berziarah ke Pertapaan. Batu hidup masih terlihat di presbiterium dan sakristi, sementara gereja kecil yang primitif ini mengalami berbagai fase perluasan dan pengayaan struktur dan jubah seiring dengan meningkatnya ketenaran dan pemujaan terhadap Perawan Gua sejak abad ke-14 dan seterusnya. Pada awal abad ke-18, barisan tiang ganda pada fasad dibangun dan gua diperbesar untuk mengakomodasi sakristi. Para pertapa dari Calomini menjaganya selama lima abad, sampai tahun 1868, dan sekarang penjagaannya dipercayakan kepada para Bapa Kapusin Lucca.
