Kastellet kecil benteng terletak di pulau kecil Kastellholmen. Benteng yang pertama di lokasi dibina di 1667 direka oleh Erik Dahlbergh. Ianya meletup di jun 1845 dan seterusnya baru dibangun 1846-1848 untuk reka bentuk arsitek Fredrik Blom. Ini terdiri dari menara bulat dengan dinding bata merah dan 20 meter tinggi tangga di menara. Di atas lalat Tentera Ensign Sweden, ia adalah dinaikkan dan diturunkan setiap hari, menunjukkan negara ini aman. Pada 17 Mei, 1996, norway Perlembagaan Hari, beberapa norway ekspatriat menaikkan bendera norway di menara. Walaupun apa-apa tindakan yang akan sejarah telah diambil sebagai deklarasi perang, sebuah krisis diplomatik yang boleh dielakkan.