A berlini palotával szemben egy kulturális és oktatási központ létrehozásának ötlete IV. Friedrich Wilhelm idejéből származik, aki a művészet és a tudomány szentélyének létrehozásáról álmodott a helyszínen. Az Alte Nationalgalerie alapvető építészeti koncepciója-az ókori motívumokkal díszített lábazaton emelt templomszerű épület-maga a királytól származott. Az épületet tervezte Friedrich August St. ons, Schinkel hallgatója, aki a Neues Múzeumot is megtervezte. Ezt követően fejezték be Szent vállalkozók halála Schinkel másik tanítványa, Johann Heinrich Strack. A kezdeti lendületet az építőiparban a Nationalgalerie volt egy hagyatékot, hogy a Porosz állam 1861-ben a bankár konzul Johann Heinrich Wilhelm Wagener, akinek a gyűjtemény szerepelt működik, Caspar David Friedrich Karl Friedrich Schinkel, festők a Düsseldorfi iskola történelem festők belgiumból. A hagyaték azzal a kikötéssel járt, hogy a festményeket nyilvánosan, megfelelő helyen kell kiállítani. Alig egy évvel később St. ons megkapta a megbízást az épület terveinek elkészítésére. Tíz év után az építkezés a Nationalgalerie ünnepélyesen megnyílt március 21-én 1876 születésnapjára Kaiser Wilhelm I, lett a harmadik Múzeum a szigeten a Spree. Az épület a második világháború légi bombázása során többször közvetlen találatokat szenvedett, különösen 1944 után súlyos károkat szenvedett. Magát a gyűjteményt a háború kezdetével fokozatosan kiürítették. Többek között a berlini légvédelmi tornyokban, az állatkert közelében és Friedrichshainban, valamint a Merkers és Grasleben só-és hamuzsírraktárakban tárolták. A háború befejezése után az épületet gyorsan, bár ideiglenesen helyreállították; egyes részeit 1949-ben újra megnyitották. A második emelet egy évvel később elérhetővé vált a látogatók számára. Németország felosztása során a 19.századi festményeket, amelyek túlélték a háborút a nyugati megszállási övezetekben, a Neue Nationalgalerie, 1968-tól kezdődően, Schloss Charlottenburg Romantikus galériájában pedig 1986-tól. A berlini fal leomlása után a növekvő gyűjteményeket egyesítették eredeti épületükben, amelyet ma Alte Nationalgalerie-nek hívnak, a berlini Museumsinsel-en. A gyűjtemény befogadása azt jelentette, hogy helyrehozták a háború által az épületben okozott károkat, valamint új szobákat adtak hozzá. A HG Merz Berlin építészeti céget 1992-ben bízták meg ezzel a munkával. 1998 márciusában az Alte Nationalgalerie felújítás miatt bezárt. A múzeumot végül 2001 decemberében nyitották meg újra, 125.évfordulója alkalmából.