Ce temple se différencie de tous les autres temples des environs par sa composition : de petites structures en forme de hutte entourent une cour ouverte. Il a été érigé entre les années 875 et 900 et fait partie du groupe de temples de l’ouest. Le temple est dédié au 64 yogini féminines (des gardiennes) qui sont considérées comme des émanations de la Déesse Mère.

Le temple est assez original, c’est d’ailleurs le seul du complexe qui a été construit avec du granite local. Son architecture est assez basique, sans décoration. Les murs sont quasiment nus, dénués des sculptures sophistiquées présentes sur tous les autres temples de Khajuraho. Il y a, dans le complexe de temples, un total de 67 sanctuaires et le plus grand est dédié à la déesse Durga, qui est représentée sous la forme de Mahishasura Mardini. Deux autres sanctuaires sont dédiés à Maheshvari et Matrikas Brahmani, tandis que les 64 restants sont eux, dédiés aux yoginis. Ce temple serait le plus ancien temple yogini en Inde.