L'Alcazaba, une forteresse, est l'une des parties les plus anciennes de l'Alhambra, comme c'est le cas des Tours Vermillon (Torres Bermejas). On pense qu'avant sa construction et avant l'arrivée des musulmans à Grenade, il y avait déjà plusieurs constructions dans la même zone. La première référence historique à l'existence de l'Alcazaba date du IXe siècle et on pense qu'elle a ensuite été construite par Sawwar ben Hamdun pendant les combats entre les musulmans et les muwalladins [chrétiens qui se sont convertis à l'Islam et ont vécu parmi les musulmans].
Le complexe actuel a été construit par Mohammed Ier, qui a édifié les remparts autour du château précédent, les défenses et trois nouvelles tours : La tour brisée (Torre Quebrada), le donjon (Torre del Homenaje) et la tour de guet (Torre de la Vela). En conséquence, l'Alcazaba devient une véritable forteresse, où le roi établit la résidence royale. Son fils Mohammed II a également eu sa résidence dans l'Alcazaba, jusqu'à ce que les palais soient terminés. À partir de ce moment, l'Alcazaba ne fut plus utilisée que comme forteresse à des fins militaires.
Lorsque les chrétiens ont pris la ville, ils ont effectué de nombreux travaux pour réparer l'Alcazaba. À différents moments de son histoire, pendant de longues périodes, elle a été utilisée comme prison d'État, même pendant l'occupation française.
Comme l'Alhambra, l'Alcazaba a été abandonnée et laissée à l'abandon pendant longtemps et ce n'est qu'à la fin du XIXe siècle et au début du XXe que les travaux de restauration, d'exploration et de plomberie ont commencé.