Iako to nije baš zgrada, Londonski zid koji su izgradili Rimljani kasnog 2.ili ranog 3. stoljeća generalno se smatra najstarijom zgradom u Londonu. Rimljani izgradio zid, ponekad, nakon što su osnovali luku gradu Londinium i izgrađeno kao fort u 120 CE. Zid je bila jedna od najvećih građevinske projekte u Rimskoj Britanija, površine oko 4 km (2.5 milja) dugo i zatvarajuci prostor oko 134 hektara (330 hektara). Nakon pada carstva Zapadnog Rima, zid je ostao u upotrebi od strane brojnih stanovnika Londona. Zid je često popravljen i služio je kao prvobitna granica grada Londona do srednjevjekovnog perioda. Tokom velikog požara u Londonu 1666. godine, skoro cijeli Stari Grad London unutar zidina je uništen. Skoro svi od zidova ostatke i sedam grad vrata su se srušili u 18 veku, ali neki od originalne dijelove zid stoji kao zaštićeni istorijskih znamenitosti.