Der Tempel ist einer der beliebtesten Shaktipeethas (Andachtsschrein, in den die abgetrennten Körperteile der Göttin Sati fielen) der Region. Der Tempel befindet sich in der Nähe des Flusses Kshipra und beherbergt das Idol der Tempel-Gottheit Mata Harsiddhi. Auch die Idole der Göttinnen Annapurna, Mahalakshmi und Mahasaraswati gibt es in diesem Tempel zu bewundern. Eine weitere Sehenswürdigkeit dieses Tempels ist das Sri Yantra, das Symbol der Macht bzw. Shakti, das hier als Heiligtum verwahrt ist. Die Tempelarchitektur weist zahlreiche Maratha-Einflüsse auf. Der Tempel verfügt über vier Eingänge, einen in jede Richtung, und der Haupteingang befindet sich auf der Ostseite. Innerhalb der Tempelanlage befinden sich zwei stiftförmige, hoch aufragende Säulen. Die 726 Lichthalter an diesen beiden Säulen sorgen insbesondere während Navratri (einem heiligen neuntägigen Festival) für einen atemberaubenden Anblick. Abgesehen von diesen beiden riesigen Säulen befindet sich auf dem Gelände zudem ein alter Brunnen, auf dem eine kunstvoll geschnitzte Säule angebracht ist. Der Skanda Purana, ein alter Text, erzählt von einer aufregenden Legende, die besagt, dass die Göttin Chandi den Beinamen Harsiddhi erhielt und ihr dieser Tempel gewidmet wurde. Die Geschichte geht so: Als Shiva und die Göttin Parvati einmal allein auf dem Berg Kailash waren, versuchten die Dämonen Chand und Prachand, die beiden zu töten. Shiva rief Göttin Chandi an, die sie später tötete.

König Vikramaditya soll ein großer Anhänger von Mata Harsiddhi gewesen sein und regelmäßig hierher gekommen sein, um zu beten.