De oudste nederzetting op de grond van de moderne stad Graz dateert uit het Chalcolithicum. Er bestaat echter geen historische continuïteit van een nederzetting voor de Middeleeuwen. In de 12e eeuw maakten hertogen onder Babenberg van de stad een belangrijk handelscentrum. Later kwam Graz onder de heerschappij van de Habsburgers, en in 1281 kreeg hij speciale privileges van koning Rudolf I.
In de 14e eeuw werd Graz de residentie van de Inner Austrian line van de Habsburgers. De Koninklijke familie woonde in het kasteel Schloßberg en regeerde van daaruit Stiermarken, Karinthië, het grootste deel van het huidige Slovenië en delen van Italië.
In de 16e eeuw werden het ontwerp en de planning van de stad voornamelijk gecontroleerd door Italiaanse Renaissance architecten en kunstenaars. Een van de beroemdste gebouwen gebouwd in deze stijl is het Landhaus, ontworpen door Domenico dell ' Allio, en gebruikt door de lokale heersers als een Regeringsgebouw.
Graz getuigt van een voorbeeldig model van het levende erfgoed van een centraal-Europees stedelijk complex, beïnvloed door de seculiere aanwezigheid van de Habsburgers en de culturele en artistieke rol van de belangrijkste aristocratische families. Ze zijn een harmonieuze mix van de architectonische stijlen en artistieke bewegingen die elkaar hebben opgevolgd van de Middeleeuwen tot de 18e eeuw, in de vele naburige regio ' s van Midden-en Middellandse Zee Europa. Ze belichamen een gediversifieerd en zeer uitgebreid ensemble van architectonische, decoratieve en landschappelijke voorbeelden van deze wisselingen van invloed.
In 1999 werd Graz toegevoegd aan de Werelderfgoedlijst van UNESCO en in 2010 werd het gebied uitgebreid door Schloss Eggenberg.
Top of the World