De oorsprong van de stad is gehuld in verschillende legenden, waarvan de bekendste betrekking hebben op de figuren Althea en Altello. Volgens een eerste legende werd de stad genoemd naar Althea, koningin van de Myrmidonen, die hierheen kwam nadat ze haar vaderland was ontvlucht. Een andere mythe voert haar terug naar Anthello, held van Troje en metgezel van Aeneas: nadat hij de stad Troje was ontvlucht, ging Aeneas verder naar Latium, terwijl Anthello in Apulië stopte en de stad "Alter Ilium" bouwde, wat "Ander Troje" betekent. Historisch gezien ontleent de stad zijn naam aan de megalithische muren ("alta-mura"). Al in de bronstijd waren er enkele nederzettingen in het gebied, maar pas in de middeleeuwen won de stad aan belang dankzij Frederik II van Zwaben. Het was vervolgens een leengoed van verschillende adellijke families, die in de loop der eeuwen steeds streefden naar vrijheid: het slaagde er namelijk in zichzelf te besturen zonder onderworpen te zijn aan de Aragonese; toen de Bourbons kwamen, verenigden de burgers zich in wat bekend staat als de Altamura-revolutie (het moest zich toen na twee dagen overgeven); tijdens het Risorgimento was het de zetel van het Barese oproercomité. Dankzij deze episodes wordt Altamura terecht de "Leeuwin van Apulië" genoemd.Het historische centrum is beroemd om zijn perfect ronde vorm, maar vooral om zijn kloosters, een spiegel van de vermenging van verschillende culturen die de stad in de loop van de historische periodes hebben gekenmerkt. De kathedraal 'architectonisch unicum' dateert uit 1232 en werd gebouwd in opdracht van Frederik II van Zwaben.
