Etruskų pavadinimas nežinomas, galbūt nuo Statnes (arba Staties), kuris romėnų laikais tapo prefektūra ir buvo vadinamas Statonia.Atrodo, kad Pitigliano pavadinimas kilęs iš gens Petilia, svarbios romėnų šeimos, davusios vardą kelioms vietovėms. Pasak senovinės legendos, už miesto įkūrimą esą atsakingi du romėnai: Petilio ir Celiano; iš jų vardų susiliejimo kilo Pitigliano.Kita vertus, Mažosios Jeruzalės pavadinimas kilo dėl to, kad čia per amžius gyveno svarbi žydų bendruomenė.Pitigliane, vieninteliame šios vietovės "prieglobsčio miestų" paveldėtojuje, dėl šimtmečius išlikusių palankių sąlygų tarp žydų ir krikščionių gyventojų susiklostė išskirtiniai sugyvenimo ir tolerancijos santykiai, todėl miestelis buvo pavadintas "Mažąja Jeruzale". Nepaprastus krikščionių ir žydų santykius galutinai įtvirtino išskirtinis 1799 m. epizodas, kai gyventojai ir krikščionių dauguma apgynė izraelitus nuo priešiškai nusiteikusių prancūzų kareivių, norėjusių apiplėšti getą, piktnaudžiavimo.Istorija300-1000 m. pr. m. e. užfiksuotas bronzos amžiaus kaimas, tačiau Pitigliano uola, kaip ir visas Fioros upės slėnis, buvo lankoma jau neolite (VI tūkstantmetis pr. m. e.), o vėliau - vario amžiuje.VIII a. pr. m. e. etruskų gyvenvietė dėl netoliese esančio Veio miesto pasiekė apogėjų VI a. pr. m. e., pakeisdama netoliese esantį Poggio Buco centrą, įsikūrusį prie Fioros upės, kuriame buvo nekropolis ir šventyklos liekanos; apie 500 m. pr. m. e. jį tikriausiai sunaikino Čiusi karalius Porsena.I a. pr. m. e.-II a. po Kr. romėnų buvimą su ūkiais ir kaimais palei pagrindinius kelius rodo įvairūs statiniai plynaukštėje priešais Pitigliano uolą.1061 m. toponimas Pitigliano pirmą kartą pasirodo Mikalojaus II išduotoje bulėje, skirtoje Sovanos kanauninkams.1188 m. kitame dokumente Pitigliano pasirodo kaip castro (įtvirtintas kaimas), priklausantis grafams Aldobrandeschi, visos Maremmos valdovams, kuriems jis priklausė netrukus po 1000 metų.1274 m. Pitigliano pasirodo kaip viena iš pagrindinių Aldobrandeschi grafystės tvirtovių karuose su Orvjeto komuna.1313 m. Orsini vedybų keliu perėmė Aldobrandeschi teises į Sovanos grafystę; priversti ilgai kovoti su Orvjeto, o vėliau su Sienos komunomis, o 1410 m. pastarosioms užkariavus beveik visą Maremmą, įskaitant Sovaną, Orsini perkėlė grafystės sostinę į Pitigliano.1466 m. maža Pitigliano grafystė sustiprėjo, kai į valdžią atėjo Niccolò III, didžiųjų Italijos valstybių kapitonas; kartu su juo Pitigliano praturtėjo renesansiniais paminklais, prie kurių dirbo tokie menininkai kaip Antonio da Sangallo, Baldassare Peruzzi ir Anton Maria Lari.1604 m. Toskanos didysis kunigaikštis Ferdinandas I nuperka visas Orsini valdas: taip baigiasi Pitigliano grafystė; nuo šimtmečio vidurio pradeda daugėti žydų, kurie čia randa saugų prieglobstį; 1643 m. Medičiai sužlugdo popiežiaus kariuomenės bandymą užimti miestą.1843 m. Pitiglianas įgyja miesto titulą, kai iš Sovanos vyskupijos perkeliama vyskupija, o po Apšvietos reformų prasideda ekonominis augimas.
