Peșterile Bhaja au fost construite de călugărițele budiste în jurul anului 200 î. HR. Situate în Karli, aceste peșteri se află pe o rută comercială veche, care se extinde din partea de Est a Mării Arabiei spre Deccan. Peșterile Bhaja sunt similare cu peșterile Karla în stil și design arhitectural. Populare sunt cele 22 de peșteri tăiate în stâncă, care înfățișează diverse sculpturi, precum cea a unui prinț într-un car, un prinț așezat pe un elefant, trei războinici înarmați și cupluri de dans, printre altele. Din cele 22 de peșteri tăiate în stâncă, prima peșteră este locul rezidențial al stăpânului peșterilor. Următoarele zece sunt Viharas budiste, din care o peșteră este sala Chaitya (Chaityagriha). Celelalte șapte peșteri, cu naos și culoar, au inscripții, care includ detaliile patronului.
