As cavernas Bhaja foram construídas pelas freiras budistas por volta de 200 a. C. Localizado em Karli, estas cavernas estão em uma antiga rota comercial, que se estende do lado leste do Mar Arábico para o Decão. As cavernas Bhaja são semelhantes às Cavernas de Karla em estilo e projetos arquitetônicos. Populares são as 22 cavernas de pedra, que retratam várias esculturas, como a de um príncipe em uma carruagem, um príncipe sentado em um elefante, três guerreiros armados e casais dançantes, entre outros. Das 22 cavernas cortadas em rocha, a primeira caverna é o lugar residencial do Mestre das cavernas. Os dez seguintes são os viharas budistas, dos quais uma caverna é o salão Chaitya (Choityagriha). As outras sete cavernas, com uma nave e lado do corredor, têm inscrições, que incluem os detalhes do patrono.