Hoci to nie je presne budova, Londýnsky múr postavený Rimanmi koncom 2. storočia alebo začiatkom 3. storočia je všeobecne považovaný za najstaršiu budovu v Londýne. Rimania postavili múr niekedy potom, čo založil prístavné mesto Londinium a postavil pevnosť v 120 CE. Múr bol jedným z najväčších stavebných projektov v rímskej Británii, ktorý mal dĺžku asi 4 km (2, 5 míle) a obklopoval plochu asi 134 hektárov (330 akrov). Po páde západnej rímskej ríše zostala stena v používaní rôznymi obyvateľmi Londýna. Stena bola opravovaná často a slúžila ako pôvodná hranica mesta Londýn až do stredovekého obdobia. Počas Veľkého požiaru v Londýne v roku 1666 bolo takmer všetko Staré Mesto Londýna v múroch zničené. Takmer všetky hradby zostali a sedem mestských brán bolo zbúraných v 18. storočí, ale niektoré z pôvodných častí múru ostali stáť ako chránené historické pamiatky.