Ueno Castle, awalnya dibangun di akhir abad ke-16 dan kemudian diperbesar, disajikan sebagai kursi dari lords lokal selama periode Edo (1603-1867). Menara benteng dihancurkan dalam badai kurang dari 50 tahun kemudian dan tidak dibangun kembali sampai 1935 ketika seorang warga lokal menyediakan dana untuk rekonstruksi menara.
Tidak seperti banyak kastil Jepang lain yang dibangun kembali di abad ke-20 menggunakan beton, Ueno Castle dibangun kembali dengan kayu saja, memberikan yang indah, tampak asli dan suasana baik di dalam dan luar. Dinding batu di sisi barat Kastil adalah yang tertinggi di Jepang pada 30 meter mengesankan.