महलको पहिलो केन्द्रक एक मेगालिथिक संरचना हो, जसका अवशेषहरू लोम्बार्ड किपको आधारमा देखिन्छन्। सुदृढ परिसरको विकास 10 औं शताब्दीको दोस्रो भागमा भएको थियो; लोम्बार्ड काउन्ट पाल्देफ्रेडो र तिनका उत्तराधिकारीहरूले कम्तिमा दुई टावरहरू भएको चतुर्भुज घेराको उचाइको साथ किल्लालाई बलियो बनाए। Normans को आगमन संग, महल र गाउँ Altavilla को राजा रोजर II को सेना द्वारा व्यापक क्षति भयो।एन्जेभिन अवधिमा एउटा खाडल र तीनवटा ठूला गोलाकार टावरहरू काँटेको शंकुको आधार बनाइएको थियो। 1443 मा, अर्गोनीहरूसँग, महल पान्डोन परिवारमा गए। काउन्ट फ्रान्सेस्कोले खाडलको विस्तार र क्रेनलेट गरिएको ब्रागाको निर्माण कार्यलाई कमिसन गरे, जबकि एनरिकोले सोह्रौं शताब्दीको सुरुमा, लगगिया, बगैचा र महत्त्वपूर्ण चित्रात्मक सजावटको निर्माण भएको संरचनालाई आवासमा रूपान्तरण गरे (१५२२ - 1527) आफ्नो प्रसिद्ध प्रजनन को सबै भन्दा राम्रो घोडा चित्रण।हेनरीले चार्ल्स पाँचौंको विश्वासघातको लागि शिर काटेर हत्या गरेपछि, झगडा ल्यानोइज लगायत अन्य परिवारहरूमा पुग्यो, जसले महलको आवासीय चरित्रलाई जोड्दै वास्तुकला र सजावटमा थप परिवर्तनहरू गरे।