Berdekatan dengan kelab golf Istana awalnya dibangun di pertengahan abad ke-15 dan segera jatuh ke tangan ianya diancam suatu masa dahulu Puak, salah satu yang paling kuat puak ketika Amerika Berperang Era yang digunakan sebagai dasar untuk mengawal kawasan sekeliling hari moden Tokyo. Dalam 1590, Toyotomi Hideyoshi menyerang istana, dan dengan kekalahan ianya diancam suatu masa dahulu Klan bersatu semula Jepun.
Dalam 1703 istana telah dimusnahkan oleh gempa bumi tetapi dengan cepat dibina semula lagi pada tahun 1870, istana menjaga dan bangunan lain telah dibongkar dan dijual. Simpan telah dibina semula lagi di feri-konkrit di tahun 1960 berdasarkan model dan lukisan dari zaman Edo. Sepanjang tahun-tahun berikutnya, tiga utama pintu utama ke istana juga dikembalikan.