ბერლინის სასახლის მასშტაბით კულტურულ-საგანმანათლებლო ცენტრის დაარსების იდეა ფრიდრიხ ვილჰელმ IV-ის დროით თარიღდება, რომელიც ადგილზე "ხელოვნებისა და მეცნიერების საკურთხევლის" შექმნაზე ოცნებობდა. Alte Nationalgalerie-ს ძირითადი არქიტექტურული კონცეფცია-ტაძრის მსგავსი შენობა, რომელიც ანტიკურ მოტივებით მორთულ ძირზე იყო დასმული, თავად მეფისგან მოდიოდა. შენობა დააპროექტა ფრიდრიხ ავგუსტ სტულერმა, Schinkel-ის სტუდენტმა, რომელმაც ასევე შექმნა Neues მუზეუმი. იგი დასრულდა Stüler გარდაცვალების შემდეგ კიდევ ერთი Schinkel სტუდენტები, იოჰან Heinrich Strack. Nationalgalerie-ის მშენებლობის საწყისი სტიმული იყო პრუსიის სახელმწიფოსთვის 1861 წელს ბანკირისა და კონსულის იოჰან ჰაინრიხ ვილჰელმ ვაგენერის ანდერძი, რომლის კრებულში წარმოდგენილი იყო კასპარ დევიდ ფრიდრიხის, კარლ ფრიდრიხ შინკელის, მხატვრები დიუსელდორფის სკოლიდან და ისტორიის მხატვრები ბელგიიდან. ანდერძი მოვიდა იმ პირობით, რომ ნახატები საჯაროდ უნდა ყოფილიყო ნაჩვენები "შესაფერის ადგილას". მხოლოდ ერთი წლის შემდეგ Stüler მიიღო კომისიის შეადგინოს გეგმები შენობა. მას შემდეგ, რაც ათი წლის განმავლობაში მშენებლობის Nationalgalerie საზეიმოდ გაიხსნა 21 მარტს 1876 დაბადების Kaiser Wilhelm I, ხდება მესამე მუზეუმი კუნძულ Spree.
შენობამ მეორე მსოფლიო ომის საჰაერო დაბომბვის დროს რამდენჯერმე განიცადა პირდაპირი დარტყმა, რაც მძიმე ზიანს აყენებდა განსაკუთრებით 1944 წლის შემდეგ. თავად კოლექცია ომის დაწყებისთანავე თანდათან ევაკუირებული იყო. სხვა ადგილებთან ერთად, იგი ინახებოდა ბერლინის საზენიტო კოშკებში ზოოპარკის მახლობლად და ფრიდრიხშაინში, ასევე მარილისა და პოტაშის საცავებში მერკერსა და გრასლებენში.
ომის დასრულების შემდეგ შენობა სწრაფად, თუმცა დროებით აღდგა; მისი ნაწილები 1949 წელს ხელახლა გაიხსნა. მეორე სართული ვიზიტორებისთვის ერთი წლის შემდეგ გახდა ხელმისაწვდომი. გერმანიის დაყოფის დროს, მე -19 საუკუნის ნახატები, რომლებიც გადაურჩნენ ომს ოკუპაციის დასავლეთ ზონებში, განთავსდა Neue Nationalgalerie-ში, 1968 წლიდან დაწყებული და Schloss Charlottenburg-ის რომანტიზმის გალერეაში 1986 წლიდან. ბერლინის კედლის დაცემის შემდეგ, მზარდი კოლექციები გაერთიანდა მათ თავდაპირველ შენობაში, რომელსაც ახლა Alte Nationalgalerie უწოდებენ, ბერლინის მუზეუმზინსელზე. კოლექციის განთავსება გულისხმობდა იმ ზიანის შეკეთებას, რომელიც ომმა მიაყენა შენობას, ასევე ახალი ოთახების დამატებას. არქიტექტურული ფირმა Hg Merz Berlin დაევალა ამ სამუშაოს 1992 წელს. 1998 წლის მარტში alte Nationalgalerie დაიხურა სარემონტო სამუშაოებისთვის. მუზეუმი საბოლოოდ ხელახლა გაიხსნა 2001 წლის დეკემბერში, მისი 125 წლის იუბილეს აღსანიშნავად.
