Ačkoli to není přesně budova, Londýnská zeď postavená Římany na konci 2. století nebo na počátku 3.století je široce považována za nejstarší budovu v Londýně. Římané postavili zeď někdy poté, co založili přístavní město Londinium a postavili pevnost v roce 120 CE. Zeď byla jedním z největších stavebních projektů v Římské Británii, měřící asi 4 km (2,5 mil) dlouhé a obklopující prostor asi 134 hektarů (330 akrů). Po pádu západní římské říše zůstala zeď používána různými obyvateli Londýna. Zeď byla často opravována a sloužila jako původní hranice města Londýna až do středověku. Během Velkého požáru Londýna v roce 1666 bylo téměř celé Staré Město Londýna uvnitř zdí zničeno. Téměř všechny stěny zůstává a sedmi městských bran byla zbořena v 18. století, ale některé původní části zdi stále stojí za chráněné historické památky.
