Daha eski olan sürekli olarak var olan bir kütüphane olmasına rağmen, El-Qarawiyyin Kütüphanesinin genellikle dünyanın en eski Kütüphanesi olduğuna inanılmaktadır. Kütüphane, dünyanın en eski üniversitelerinden biridir ve ilk olarak MS 859'da açılmıştır. Zengin bir Tunuslu tüccarın kızı Fatima el-Fihri tarafından kuruldu (aynı zamanda Qarawiyyin Camii ve Qarawiyyin Üniversitesi'ni kurdu).
Geçtiğimiz birkaç on yıl boyunca, kütüphanenin çoğu, büyük hasar nedeniyle birkaç akademisyen ve üniversite öğrencisi hariç herkese kapatıldı. 2012 yılında, Fas Kültür Bakanlığı, kütüphanenin hasarını değerlendirmek için aslen Fez, Moroco'dan gelen Toronto merkezli bir mimar ve mühendis olan Aziza Chaouni ile temasa geçti. Chaouni, kütüphanenin çürümüş olduğunu ve zeminlerin altında akan bir nehir olduğunu keşfetti. O zamandan beri, kütüphane kapsamlı bir tadilattan geçti ve 2017'de halka açıldı.