Stadens ursprung är omgärdat av olika legender, varav de mest kända handlar om Althea och Altello. Enligt en första legend fick staden sitt namn efter Althea, myrmidonernas drottning, som kom hit efter att ha flytt från sitt hemland. En annan myt spårar tillbaka till Anthello, hjälte från Troja och följeslagare till Aeneas: efter att ha flytt från staden Troja fortsatte Aeneas till Latium, medan Anthello stannade till i Apulien och byggde staden "Alter Ilium", som betyder "annat Troja". Historiskt sett har staden dock fått sitt namn från de megalitiska murarna ("alta-mura"). Redan under bronsåldern fanns det några bosättningar i området, men det var inte förrän under medeltiden som staden fick betydelse tack vare Fredrik II av Schwaben. Den var sedan ett fideikommiss för olika adelsfamiljer, som under århundradena alltid strävade efter frihet: den lyckades faktiskt styra sig själv utan att vara underställd aragonierna; när bourbonerna kom förenade sig medborgarna i det som kallas Altamura-revolutionen (den fick då kapitulera efter två dagar); under Risorgimento var den säte för Barese upprorskommitté. Tack vare dessa händelser kallas Altamura med rätta för "Apuliens lejoninna".Den historiska stadskärnan är berömd för sin perfekt runda form, men framför allt för sina kloster, en spegel av den blandning av flera kulturer som har präglat staden under de olika historiska perioderna. Katedralen "architectural unicum" är från 1232 och beställdes av Fredrik II av Schwaben.
Top of the World