Произходът на името на Гаета все още е забулен в легенда: Страбон посочва, че то произлиза от термина "Caiatas", използван от лаконските рибари за обозначаване на мястото, с ясна препратка към широкия залив;Диодор Сикул свързва тези земи с мита за аргонавтите, като извежда името на града от "Aietes", митичния баща на Медея (дъщеря на Цирцея), магьосницата, влюбена в Язон.Вергилий в "Енеида" (Енеида, VII, 1-4) намира произхода му в името на сестрата на Еней, "Кайета", погребана от троянския герой на това място по време на пътуването му до латинския бряг.Данте, сякаш за да потвърди историчността на "Енеида", потвърждава събитието(Inferno, XXVI, 92).Първите селища в района на Гаета датират от VIII в. пр.н.е., но едва през 345 г. пр.н.е. той попада под влиянието на Рим.По време на римския период Гаета се превръща в популярен ваканционен курорт, посещаван от императори, богати римски патриции, консули и известни сенатори от онова време. За тяхното придвижване дори е построен нов римски път - Via Flacca, по-къс от Appian Way.С упадъка на Западната римска империя започва мрачен преходен период, характеризиращ се с непрекъснати грабежи първо от варварското население, а след това и от сарацините.Точно поради характерното си положение на естествен полуостров, лесно защитим, той постепенно се превръща в "каструм": Гаета е укрепен със стени и по склоновете на Монте Орландо; на високата част на древното средновековно селище се издига замъкът Гаета, за да защитава града, а населението от околните райони се премества вътре в стените, за да намери гостоприемство, убежище и защита.Първите сведения за замъка датират от VI в. от н.е. във войната срещу готите, през X в. той се споменава в картите на "Кодекса", но сигурни сведения за съществуването му идват през XII в., по време на швабското владичество. Всъщност Фридрих II Швабски идва в Гаета няколко пъти и по време на борбите между гвелфите и гибелините създава укрепления, за да защитава по-добре границите на кралството си: през 1223 г. нарежда да се построят такива за замъка в Гаета (който следователно вече съществува по това време).С испанското господство, започнало през 1504 г., ролята на "крепост на Неаполитанското кралство" се подчертава още повече и градът е оборудван с чисто нови бастионни укрепления, по склоновете на планината Орландо, модернизирани срещу най-новите и мощни огнестрелни оръжия.Градът, исторически част от древната провинция Тера ди Лаворо в Кампания, е прехвърлен към Лацио по време на фашисткия период, когато е включен в новосформираната провинция Литория (Латина)