Cea mai veche așezare de pe terenul orașului modern Graz datează din epoca calcolitică. Cu toate acestea, nu există o continuitate istorică a unei așezări înainte de Evul Mediu. În timpul secolului al 12-lea, ducii sub conducerea lui Babenberg au transformat orașul într-un important centru comercial. Mai târziu, Graz a intrat sub stăpânirea Habsburgilor, iar în 1281, a câștigat privilegii speciale de la regele Rudolf I.
În secolul al 14-lea, Graz a devenit orașul de reședință al liniei austriece interioare a Habsburgilor. Regalitatea a trăit în Castelul Schlo Elixtberg și de acolo a condus Stiria, Carintia, cea mai mare parte a Sloveniei de astăzi și părți din Italia.
În secolul al 16-lea, proiectarea și planificarea orașului au fost controlate în primul rând de arhitecți și artiști renascentiști italieni. Una dintre cele mai faimoase clădiri construite în acest stil este Landhaus, proiectat de Domenico dell ' Allio, și folosit de conducătorii locali ca sediu guvernamental.
Graz este martorul unui model exemplar al moștenirii VII a unui complex urban central European influențat de prezența seculară a Habsburgilor și de rolul cultural și artistic jucat de principalele familii aristocratice. Ele sunt un amestec armonios de stiluri arhitecturale și mișcări artistice care au succedat reciproc din Evul Mediu până în secolul al 18-lea, în multe regiuni învecinate din Europa Centrală și mediteraneană. Ele întruchipează un ansamblu diversificat și extrem de cuprinzător de exemple arhitecturale, decorative și peisagistice ale acestor schimburi de influență.
În 1999, Graz a fost adăugat pe lista UNESCO a siturilor Patrimoniului Cultural Mondial, iar site-ul a fost extins în 2010 de Schloss Eggenberg.
