Situado a las orillas del ahora inexistente río Saraswati, el templo contiene un gran número de bellas esculturas de dioses y diosas hindues. Esto ha conducido a expertos a creer que este debió ser un lugar importante para adorar al dios Vishnu durante los siglos IX y X. El templo llamado Prachi, que literalmente significa “este”, fue llamado así por el flujo este del río Saraswati, conocido como Prachi Saraswati.

Se puede ver fácilmente tres marcos de puertas de piedra del antiguo templo que ahora son usados en las entradas del nuevo templo Prachi Shiva. Dos de estos arcos son significativos porque representan el navagraha (nueve cuerpos celestiales), las saptamatrikas(siete madres) y las figuras de las Diosas Ganga y Yamuna. También hay una imagen de dios Vishnu en el Lalatbimba, que apunta a la presencia de un templo de Vishnu aquí en el pasado..