Baltieji rūmai yra oficiali JAV prezidento rezidencija ir pagrindinė darbo vieta.Nuo 1800 m. čia rezidavo visi JAV prezidentai nuo Johno Adamso. Pirmasis prezidentas Džordžas Vašingtonas vietą Baltiesiems rūmams parinko 1791 m. Kertinis akmuo buvo padėtas 1792 m., o konkursinis projektas, kurį pateikė airių kilmės architektas Džeimsas Hobanas, buvo atrinktas. Po aštuonerius metus trukusių statybų 1800 m. į nebaigtą statyti namą įsikėlė prezidentas Džonas Adamsas su žmona Abigail. Per 1812 m. karą 1814 m. britai padegė prezidento namus. Atstatyti namą buvo paskirtas Džeimsas Hobanas, o 1817 m. į jį įsikėlė prezidentas Džeimsas Monro. Monro valdymo metu 1824 m. buvo pastatytas pietinis portikas, o 1829 m. Andrew Jacksonas prižiūrėjo šiaurinio portiko pridėjimą. XIX a. pabaigoje buvo pateikta įvairių pasiūlymų gerokai išplėsti prezidento rūmus arba pastatyti visiškai naują prezidento namą, tačiau šie planai taip ir nebuvo įgyvendinti.
1902 m. prezidentas Teodoras Ruzveltas (Theodore Roosevelt) pradėjo esminį Baltųjų rūmų remontą, įskaitant prezidento biurų perkėlimą iš rezidencijos antrojo aukšto į naujai pastatytą laikinąjį vykdomosios valdžios pastatą (dabar vadinamą Vakarų sparnu). Ruzvelto renovaciją suplanavo ir atliko garsi Niujorko architektūros firma "McKim, Mead and White". Ruzvelto įpėdinis, prezidentas Viljamas Hovardas Taftas (William Howard Taft), Ovalųjį kabinetą pastatė padidintame biurų sparne.Praėjus mažiau nei penkiasdešimčiai metų po Ruzvelto renovacijos, Baltuosiuose rūmuose buvo pastebėti rimti konstrukcinio silpnumo požymiai. Prezidentas Haris S. Trumanas pradėjo pastato renovaciją, kurios metu buvo demontuota viskas, išskyrus išorines sienas. Rekonstrukciją prižiūrėjo architektas Lorenzo Winslow, o 1952 m. Trumanų šeima vėl persikėlė į Baltuosius rūmus. Baltieji rūmai - tai vieta, kurioje istorija ir toliau plėtojama.
Rezidencijoje yra 132 kambariai, 35 vonios kambariai ir 6 aukštai. Taip pat yra 412 durų, 147 langai, 28 židiniai, 8 laiptinės ir 3 liftai. Baltųjų rūmų virtuvė gali patiekti vakarienę net 140 svečių, o užkandžius - daugiau nei 1 000 svečių. Baltųjų rūmų išoriniam paviršiui padengti reikia 570 galonų dažų. Įvairiais istorijos laikotarpiais Baltieji rūmai buvo vadinami "Prezidento rūmais", "Prezidento namais" ir "Vadovų rūmais". Prezidentas Teodoras Ruzveltas 1901 m. oficialiai suteikė Baltiesiems rūmams dabartinį pavadinimą.