L'Alcazaba, una fortezza, è una delle parti più antiche dell'Alhambra, come nel caso delle Torri Vermiglie (Torres Bermejas). Si pensa che prima della sua costruzione e prima che i musulmani arrivassero a Granada, esistevano già diverse costruzioni nella stessa zona. Il primo riferimento storico all'esistenza dell'Alcazaba risale al IX secolo e si ritiene che sia stata costruita da Sawwar ben Hamdun durante le lotte tra musulmani e muwalladin [cristiani che si convertirono all'Islam e vissero tra i musulmani].
L'attuale complesso fu costruito da Mohammed I, che costruì i bastioni intorno al castello precedente, le difese e tre nuove torri: La Torre Rotta (Torre Quebrada), il Mastio (Torre del Homenaje) e la Torre di Guardia (Torre de la Vela). Di conseguenza, l'Alcazaba divenne una vera e propria fortezza, dove il re stabilì la residenza reale. Anche suo figlio Maometto II ebbe la sua residenza nell'Alcazaba, fino alla fine dei palazzi. Da quel momento in poi, l'Alcazaba fu usata solo come fortezza per scopi militari.
Quando i cristiani hanno preso la città, hanno eseguito molti lavori per riparare l'Alcazaba. In diversi momenti della sua storia, durante lunghi periodi di tempo, è stata usata come prigione di Stato, anche durante l'occupazione francese.
Come l'Alhambra, l'Alcazaba è stata abbandonata e non è stata curata per molto tempo e solo tra la fine del XIX secolo e l'inizio del XX secolo sono stati avviati i lavori di restauro, di esplorazione e di idraulica.