Dispersos por la abadía hay varios signos de esoterismo blanco, como un centro sagrado que recuerda la sacralidad del lugar, el triple recinto interpretado por algunos como una estilización del Templo de Salomón en Jerusalén o un punto de energía magnética, la cruz del Verbo que también parece evocar cuatro equipos. En 1212, la abadesa Febronia hizo construir la torre defensiva para defender la vida de las monjas, también porque muchas eran vástagos de familias aristocráticas. En la torre se reutilizaron fragmentos de un mausoleo del general romano Paccius Marcellus, que comandaba la 6ª Legión Escita. La torre se enriquece con varias esculturas simbólicas: la luna creciente vinculada al cristianismo como luz y conocimiento, el rostro de Dios, la cúpula de la roca, la concha vinculada a Santiago, la flor de la vida; los distintos símbolos están vinculados a Jerusalén y refuerzan la idea de que los templarios podrían haberse ubicado aquí. El monasterio era también un punto de parada para los peregrinos que se dirigían a Jerusalén, ya que se encontraba en la principal vía romana, la Vía Apia, por lo que no se puede descartar la presencia de templarios escoltando a los peregrinos.
El convento estuvo habitado hasta 1515 con la muerte de la última abadesa; en 1506 el Papa cerró el convento, confiándolo a los monjes de Montevergine. Otro momento de esplendor se produjo en el siglo XVII, cuando se diseñó la iglesia de Vaccaro en los años 1735-45 y luego se derrumbó después de 1807, probablemente debido a un terremoto. Actualmente está sin techar, pero conserva el encanto típico de las ruinas desmoronadas. El sarcófago de San Guillermo debía estar en el altar, posteriormente trasladado a la iglesia, mientras que sus restos fueron trasladados a Montevergine. Algunos lienzos de la iglesia se conservan ahora en la Iglesia Catedral de Sant'Angelo dei Lombardi.
En 1807, Napoleón cerró varios complejos monásticos, entre ellos el de Goleto, que permaneció en estado de abandono hasta 1973, cuando el padre Lucio De Marino pidió permiso para vivir en el Goleto e inició el proyecto de restauración del complejo, que había sido parcialmente expoliado por su uso como cantera. Tras el terremoto de 1980, se iniciaron las obras de restauración con el asesoramiento de la Facultad de Arquitectura Federico II. La joya de la corona de la abadía es la capilla de San Lucas, a la que se accede por una escalera exterior en la que se puede ver un pasamanos con forma de serpiente con una manzana en la boca, una advertencia contra la tentación o, como dicen otras tradiciones ajenas a la visión cristiana, que representa la llave del conocimiento. La iglesia fue construida en 1255 por la abadesa Marina, tal y como reza la inscripción del frontal del arco (de un color rosado típico de la piedra caliza de los Apeninos trabajada por artesanos de origen samnita), para albergar una reliquia de San Lucas, quizás el cúbito que probablemente se conserva en el altar interior (hoy se conserva el relicario); también aparece allí la cruz patente, uno de los símbolos más sagrados para los tentadores. En el frontispicio aparece la figura de un león, que en el sentido cristiano representa la fuerza de los cristianos. De los numerosos frescos que iban a decorar la sala, sólo quedan restos del fresco de las abadesas Escolástica y Marina y de algunos episodios de la vida de San Guillermo. Es probable que en la capilla de San Lucas trabajaran técnicos de la corte de Federico II, que se relacionaban con la abadesa Marina. Hay una escultura de San Guillermo con un lobo, ya que se cuenta que este animal mutiló la mula del santo y que posteriormente fue domesticado, o se relaciona con la transposición de la tradición pagana que ve al lobo como el animal totémico del pueblo de Irpinia. La distribución espacial recuerda a las salas capitulares donde se reunían para estudiar los textos sagrados. La pared orientada al norte probablemente albergaba la silla de la abadesa. En una de las columnas aparece una alegoría del árbol de la vida, mientras que en la otra columna central de la base se ven ratones que atacan la columna, es decir, los ratones animales del mal pueden atacar si uno se aleja de la fe. Otro simbolismo está relacionado con el suelo (ahora en proceso de restauración) tiene 8 baldosas en cada lado que simbolizan el renacimiento en la tradición cristiana como la base de la columna del árbol de la vida y la alternancia de blanco y negro está a menudo vinculada al simbolismo templario.
También se pueden visitar los antiguos scolatoi con las diferentes aulettes.