Le plus ancien établissement sur le terrain de la ville moderne de Graz remonte à l'âge chalcolithique. Cependant, il n'existe aucune continuité historique d'un établissement avant le Moyen Âge. Au cours du 12e siècle, les ducs sous le règne des Babenberg ont fait de la ville un important centre commercial. Plus tard, Graz est passée sous la domination des Habsbourg et, en 1281, a obtenu des privilèges spéciaux du roi Rudolph Ier.
Au XIVe siècle, Graz est devenue la ville de résidence de la lignée autrichienne intérieure des Habsbourg. La royauté vivait dans le château de Schloßberg et, de là, régnait sur la Styrie, la Carinthie, la majeure partie de l'actuelle Slovénie et certaines parties de l'Italie.
Au XVIe siècle, la conception et la planification de la ville étaient principalement contrôlées par des architectes et des artistes de la Renaissance italienne. L'un des bâtiments les plus célèbres construits dans ce style est la Landhaus, conçue par Domenico dell'Allio, et utilisée par les souverains locaux comme siège du gouvernement.
Graz témoigne d'un modèle exemplaire du patrimoine vivant d'un complexe urbain d'Europe centrale influencé par la présence séculaire des Habsbourg et le rôle culturel et artistique joué par les principales familles aristocratiques. Ils constituent un mélange harmonieux des styles architecturaux et des mouvements artistiques qui se sont succédé du Moyen Âge au XVIIIe siècle, dans les nombreuses régions voisines d'Europe centrale et méditerranéenne. Ils incarnent un ensemble diversifié et très complet d'exemples architecturaux, décoratifs et paysagers de ces échanges d'influence.
En 1999, Graz a été ajouté à la liste du patrimoine culturel mondial de l'UNESCO, et le site a été agrandi en 2010 par le Schloss Eggenberg.
