Selvom det ikke er nøjagtigt en bygning, London-muren, der blev bygget af romerne i slutningen af det 2.århundrede eller det tidlige 3. århundrede, betragtes bredt som den ældste bygning i London. Romerne byggede Muren engang efter de etablerede havnebyen Londinium og bygget et fort i 120 CE. Væggen var et af de største byggeprojekter i romerske Storbritannien, der måler omkring 4 km (2.5 miles) lang og omslutter et rum på omkring 134 hektar (330 hektar). Efter det vestlige romerske imperiums fald forblev muren i brug af de forskellige beboere i London. Muren blev ofte repareret og fungerede som den oprindelige grænse for byen London indtil middelalderen. Under den store brand i London i 1666 blev næsten hele Den Gamle By i London inden for murene ødelagt. Næsten alle murene forbliver, og de syv byporte blev revet i det 18.århundrede, men nogle af de originale dele af muren forbliver stående som beskyttede historiske vartegn.