Kastellet er et lille citadel beliggende på øen Kastellholmen. Den første befæstning på stedet blev bygget i 1667 designet af Erik Dahlbergh. Det eksploderede i Juni 1845, og efterfølgende blev der bygget et nyt 1846-1848 til design af arkitekt Fredrik Blom. Det består af et rundt tårn med røde murstensvægge og et 20 meter højt trappetårn. På toppen flyver Sveriges militære Ensign, den hejses og sænkes hver dag, hvilket indikerer, at nationen er i fred. Den 17. maj 1996, den norske Grundlovsdag, rejste nogle norske udstationerede det norske flag i tårnet. Selv om en sådan handling historisk set ville have været taget som en krigserklæring, kunne en diplomatisk krise undgås.