El asentamiento más antiguo en el terreno de la moderna ciudad de Graz se remonta al Calcolítico. Sin embargo, no existe continuidad histórica de un asentamiento anterior a la Edad Media. Durante el siglo XII, los duques bajo el dominio de Babenberg convirtieron la ciudad en un importante centro comercial. Más tarde, Graz pasó a estar bajo el dominio de los Habsburgo y, en 1281, obtuvo privilegios especiales del rey Rodolfo I.
En el siglo XIV, Graz se convirtió en la ciudad de residencia de la línea austriaca interior de los Habsburgo. La realeza vivía en el castillo de Schloßberg y desde allí gobernaba Estiria, Carintia, la mayor parte de la actual Eslovenia y partes de Italia.
En el siglo XVI, el diseño y la planificación de la ciudad fueron controlados principalmente por arquitectos y artistas italianos del Renacimiento. Uno de los edificios más famosos construidos en este estilo es el Landhaus, diseñado por Domenico dell'Allio, y utilizado por los gobernantes locales como sede gubernamental.
Graz es un modelo ejemplar del patrimonio vivo de un conjunto urbano centroeuropeo influido por la presencia secular de los Habsburgo y el papel cultural y artístico de las principales familias aristocráticas. Son una mezcla armoniosa de los estilos arquitectónicos y movimientos artísticos que se han sucedido desde la Edad Media hasta el siglo XVIII, en las numerosas regiones vecinas de la Europa central y mediterránea. Encarnan un conjunto diversificado y muy completo de ejemplos arquitectónicos, decorativos y paisajísticos de estos intercambios de influencias.
En 1999, Graz fue inscrita en la lista del Patrimonio Cultural de la Humanidad de la UNESCO, y el sitio fue ampliado en 2010 con el castillo de Eggenberg.
