Petempatan tertua di Tanah Bandar Moden Graz bermula dari zaman Chalcolithic. Namun, tidak ada kesinambungan sejarah mengenai penyelesaian sebelum zaman pertengahan. Pada abad ke-12, dukes di bawah pemerintahan Babenberg menjadikan bandar ini menjadi pusat komersial yang penting. Kemudian, Graz berada di bawah pemerintahan Habsburg, dan pada tahun 1281, mendapat hak istimewa dari Raja Rudolph I.
Pada abad ke-14, Graz menjadi bandar Kediaman Garis Austria dalaman Habsburg. Kerabat diraja itu tinggal di Istana Schlo Aucsberg dan dari sana memerintah Styria, Carinthia, sebahagian besar Slovenia hari ini, dan sebahagian Itali.
Pada abad ke-16, reka bentuk dan perancangan bandar ini dikendalikan terutamanya oleh arkitek dan seniman Renaissance Itali. Salah satu bangunan paling terkenal yang dibina dengan gaya ini adalah Landhaus, yang dirancang oleh Domenico dell'allio, dan digunakan oleh pemerintah tempatan sebagai markas pemerintah.
Graz menjadi saksi model teladan warisan hidup Kompleks Bandar Eropah tengah yang dipengaruhi oleh kehadiran sekular Habsburg dan peranan budaya dan seni yang dimainkan oleh keluarga bangsawan utama. Mereka adalah gabungan harmoni gaya seni bina dan pergerakan seni yang telah berjaya antara satu sama lain dari Zaman Pertengahan sehingga abad ke-18, di kawasan-kawasan jiran banyak Tengah dan Mediterranean Eropah. Mereka merangkumi kumpulan seni bina, hiasan dan landskap yang pelbagai dan sangat komprehensif dari pertukaran pengaruh ini.
Pada tahun 1999, Graz ditambahkan ke UNESCO senarai Tapak Warisan Budaya Dunia, dan laman web ini diperluas pada tahun 2010 oleh Schloss Eggenberg.
