यह एक महत्वपूर्ण धार्मिक पड़ाव है क्योंकि यह देश में 51 शक्तिपीठों में से एक है (जहां देवी सती के शरीर के अलग-अलग हिस्से गिरे थे)। भद्रकाली मंदिर के बारे में कहा जाता है कि इस स्थान पर उनकी एड़ी गिरी थी। भक्त मंदिर को सावित्री पीठ, देवी पीठ, कालिका पीठ या अनादि पीठ सहित कई नामों से जानते हैं। किवदंती है कि अपने पिता का अपने पति भगवान शिव के लिए अपमानजनक व्यवहार से क्रुद्ध देवी सती ने अपने पिता के यज्ञ (एक अग्नि अनुष्ठान) में सती हो गई थीं या आत्मदाह कर लिया था। तहस-नहस, भगवान शिव ने अपनी पत्नी के जलते शरीर को अपनी बांहों में रखकर पूरे ब्रह्मांड में तांडव करना शुरू कर दिया, जिससे वह जहां भी गए वहां कहर फैल गया। ब्रह्मांड को बचाने के लिए भगवान विष्णु ने उनके शरीर को 52 भागों में काटने के लिए अपना सुदर्शन चक्र भेजा जिससे नुकसान कम से कम हो सके। ऐसा माना जाता है कि जहां-जहां सती के शरीर के हिस्से गिरे वहां एक शक्तिपीठ स्थापित हो गया।

मंदिर महाभारत की कथा से भी जुड़ा हुआ है। ऐसा माना जाता है कि भगवान कृष्ण ने पांडवों के साथ इस मंदिर में पूजा की और अपने रथ के घोड़ों को बलिदान के रूप में चढ़ाया। इसलिए स्थानीय लोग बताते हैं कि आज भी, अगर कोई भक्त मंदिर में मनोकामना करता है और यह सच हो जाता है, तो भक्त को पांडवों के लिए कुछ घोड़े चढ़ाने चाहिए। इस स्थानीय जानकारी के परिणामस्वरूप, कई भक्तों को मंदिर में मिट्टी या कीमती धातुओं से बने घोड़ों को चढ़ाते देखा जा सकता है। मंदिर से जुड़ी एक और कहानी बताती है कि भगवान कृष्ण और उनके भाई बलराम के मुंडन या सिर मुंडवाने का पवित्र संस्कार यहां किया गया था। नवरात्रि (नौ दिन तक चलने वाला त्योहार) जैसे त्योहारों के दौरान मंदिर में बहुत अधिक भीड़ होती है।