छोटी पहाड़ियों की तलहटी में एक झरने के पास स्थित, खंभालिदा गुफाएं यहाँ के प्रमुख ऐतिहासिक स्थलों में से एक हैं, जिनकी बारीक नक्‍काशी सभी को मंत्रमुग्ध कर देती है। इनमें 4वीं और 5 वीं शताब्दी की चूना पत्थर से बनी तीन गुफाएं शामिल हैं। केंद्रीय गुफा एक चैत्य (तीर्थ मंदिर) है और इसके प्रवेश द्वार पर एक जर्जर स्तूप है जिसके अगल बगल में बोधिसत्व की दो मूर्तियां हैं। दायीं ओर, एक अशोक जैसे वृक्ष के नीचे परिचारकों के साथ वज्रपाणि की मूर्ति है, और बायीं ओर, एक महिला और पांच परिचारिकाओं के साथ अशोक जैसे वृक्ष के नीचे पद्मपाणि है। पद्मपाणि की बाईं ओर हाथ में एक टोकरी लिए यक्ष जैसे दिखने वाले एक बौने की मूर्ति है। इन गुफाओं की खोज 1958 में प्रमुख पुरातत्वविद् पी.पी.पंड्या ने की थी। इन गुफाओं का रखरखाव अब गुजरात पुरातत्व विभाग के हाथों में है। बाईं ओर एक और गुफ़ा है जो गहरी और विशाल है तथा सामने की तरफ से खुली है। कहा जाता है कि भिक्षुओं ने ध्यान करने के लिए इसका इस्तेमाल किया होगा।