Най-старото селище на земята на съвременния град Грац датира от халколита. Въпреки това, не съществува историческа приемственост на селище преди Средновековието. През 12 век херцозите под управлението на Бабенберг превръщат града във важен търговски център. По-късно Грац попада под управлението на Хабсбургите и през 1281 г. получава специални привилегии от крал Рудолф първи.
През 14 век Грац става град-резиденция на вътрешната Австрийска линия на Хабсбургите. Кралското семейство живее в замъка Шлоßберг и оттам управлява Щирия, Каринтия, по-голямата част от днешна Словения и части от Италия.
През 16 век дизайнът и планирането на града са контролирани предимно от италиански ренесансови архитекти и художници. Една от най-известните сгради, построени в този стил, е Ландхаус, проектиран от Доменико дел Алио и използван от местните владетели като правителствен щаб.
Грац е свидетел на образцов модел на живото наследство на Централноевропейския градски комплекс, повлиян от светското присъствие на Хабсбургите и културната и артистична роля на основните аристократични семейства. Те са хармонично съчетание на архитектурни стилове и художествени движения, които са се наследили един друг от Средновековието до 18-ти век, в много съседни региони на Централна и Средиземноморска Европа. Те въплъщават разнообразен и много всеобхватен ансамбъл от архитектурни, декоративни и ландшафтни примери за тези обмен на влияние.
През 1999 г. Грац е добавен в списъка на ЮНЕСКО за световно културно наследство, а през 2010 г.обектът е разширен от замъка Егенберг.
