在柏林宫殿对面建立一个文化和教育中心的想法可以追溯到弗里德里希*威廉四世的时代，他梦想在这里建立一个"艺术和科学的避难所"。 Alte Nationalgalerie的基本建筑概念-一座建在装饰着古代图案的基座上的寺庙式建筑–来自国王本人。 该建筑由Schinkel的学生Friedrich August Stüler设计，他也设计了Neues博物馆。 它是在施图勒去世后由Schinkel的另一名学生Johann Heinrich Strack完成的。 1861年，银行家兼领事约翰*海因里希*威廉*瓦格纳（Johann Heinrich Wilhelm Wagener）遗赠普鲁士国家，他的收藏包括卡斯帕*大卫*弗里德里希（Caspar David Friedrich）、卡尔*弗里德里希*辛克尔（Karl Friedrich Schinkel）、杜塞尔多夫学派画家和比利时历史画家的作品。 遗赠的规定是，这些画必须在"合适的地点"公开展出。 仅仅一年后，Stüler收到了委员会，为该建筑制定计划。 经过十年的建设，国家博物馆于1876年3月21日隆重开幕，庆祝威廉一世的生日，成为该岛上的第三个博物馆。
该建筑在第二次世界大战的空中轰炸中多次遭受直接打击，特别是在1944年之后遭受了严重破坏。 随着战争的开始，收藏品本身逐渐被疏散。 在其他地方，它被存放在动物园附近的柏林防空塔和弗里德里希海因，以及梅克斯和格拉斯本的盐和钾盐储存库中。
战争结束后，这座建筑很快就被临时修复了，部分建筑在1949年重新开放。 一年后,二楼可供参观者使用. 在德国分裂期间，从1968年开始，在西部占领区的战争中幸存下来的19世纪绘画被安置在新国家美术馆，并从1986年起被安置在Schloss Charlottenburg的浪漫主义画廊。 柏林墙倒塌后，越来越多的收藏品被联合在他们原来的建筑中，现在被称为Alte Nationalgalerie，位于柏林的Museumsinsel。 容纳这些收藏意味着修复战争对建筑物造成的破坏，以及增加新的房间。 建筑公司HG Merz Berlin于1992年被委托进行这项工作。 1998年3月,Alte Nationalgalerie因整修而关闭. 该博物馆终于在2001年12月重新开放，标志着其成立125周年。
