Hrad Yvoire, který nechal postavit savojský hrabě Amédée V. v roce 1306 při opevňování vesnice, měl za úkol vojensky sledovat plavbu a kontrolovat cestu spojující Ženevu s údolím horní Rhôny a Itálií. Po několik staletí byla vesnice Yvoire centrem několika strategických nebo náboženských válek mezi Francouzi, Bernskými, Ženevskými a rody Faucigny, Dauphiné a Savoie. V roce 1591 budovu zpustošil požár a svou současnou podobu získala až ve 20. století, kdy Félix Bouvier d'Yvoire provedl několik vnitřních i vnějších úprav, včetně zřízení střechy a nárožních strážních věží v roce 1939.