Kastellet är ett litet citadell som ligger på ön Kastellholmen. Den första befästningen på platsen byggdes 1667 designad av Erik Dahlbergh. Det exploderade i juni 1845 och därefter byggdes en ny 1846-1848 till utformningen av arkitekten Fredrik Blom. Den består av ett runt torn med röda tegelväggar och ett 20 meter högt trapptorn. På toppen flyger Sveriges militära Ensign, det lyfts och sänks varje dag, vilket indikerar att nationen är i fred. Den 17 maj 1996, den norska Konstitutionsdagen, höjde vissa Norska expats den norska flaggan i tornet. Även om en sådan åtgärd historiskt sett skulle ha vidtagits som en krigsförklaring, kunde en diplomatisk kris undvikas.