Les collines jumelles de Khandagiri et d’Udaygiri sont réputées pour leurs grottes creusées dans la roche, construites par les moines jaïns au cours des 1er et 2e siècle avant notre ère. Elles abritent sur leurs parois l’histoire des 13 années de règne du roi Kharavela de Kalinga. La reine était mécène des arts et de l’artisanat, c’est pourquoi les sculptures et motifs de ces grottes sont exceptionnels. Ce journal est inscrit sur les murs de Hathi Gumpha, la grotte de l’éléphant à Udaygiri, et constitue un exemple emblématique des écritures Pali que l’on peut trouver en Inde. Le Rani Gumpha, également dans les grottes d’Udaygiri, vaut le détour pour sa vaste cour intérieure et ses frises sculpturales. Khandagiri compte 15 grottes et est situé sur la gauche, tandis qu’Udaygiri compte 18 grottes et est situé sur la droite. Ces grottes sont localisées à environ 7 km à l’ouest du centre-ville de Bhubaneswar.

Autres attractions à Bhubaneswar