Pemukiman tertua di tanah Kota Modern Graz berasal dari zaman Chalcolithic. Namun, tidak ada kontinuitas historis dari pemukiman sebelum abad pertengahan. Selama abad ke-12, adipati di bawah pemerintahan Babenberg menjadikan kota ini sebagai pusat komersial yang penting. Kemudian, Graz berada di bawah kekuasaan Habsburg, dan pada 1281, memperoleh hak istimewa khusus dari Raja Rudolph I.
Pada abad ke-14, Graz menjadi kota kediaman garis Austria dalam Habsburg. Keluarga kerajaan tinggal di Kastil Schlo Portugberg dan dari sana memerintah Styria, Carinthia, sebagian besar Slovenia saat ini, dan sebagian Italia.
Pada abad ke-16, desain dan perencanaan kota terutama dikendalikan oleh arsitek dan seniman Renaisans Italia. Salah satu bangunan paling terkenal yang dibangun dengan gaya ini adalah Landhaus, dirancang oleh Domenico dell'allio, dan digunakan oleh penguasa lokal sebagai markas pemerintah.
Graz menjadi saksi model teladan dari warisan hidup dari kompleks perkotaan Eropa Tengah yang dipengaruhi oleh kehadiran sekuler Habsburg dan peran budaya dan artistik yang dimainkan oleh keluarga aristokrat utama. Mereka adalah perpaduan harmonis dari gaya arsitektur dan gerakan artistik yang telah berhasil satu sama lain dari Abad Pertengahan hingga abad ke-18, di banyak daerah tetangga di Eropa Tengah dan Mediterania. Mereka mewujudkan ansambel yang beragam dan sangat komprehensif dari contoh arsitektur, dekoratif dan lanskap dari pertukaran pengaruh ini.
Pada tahun 1999, Graz ditambahkan ke Daftar Situs Warisan Budaya Dunia UNESCO, dan situs tersebut diperpanjang pada tahun 2010 oleh Schloss Eggenberg.
