पौराणिक कथा के अनुसार जब भगवान भोलेनाथ माता सती के मृत शरीर को लेकर पूरे लोक का भ्रमण कर रहे थे। तब माता सती के बांह का अंग इस स्थान पर गिरा था इस कारण यहां पर शक्तिपीठ स्थापित हो गया। चैती बाला सुंदरी मंदिर का इतिहास औरंगजेब के शासन काल से जुड़ा है। क्योंकि इस मंदिर के ऊपर का हिस्सा मस्जिदनुमा गुंबद की भांति दिखता है। मंदिर को लेकर किदवंती है कि पंडा विकास अग्निहोत्री के पूर्वज गया दीन और बंदी दीन कई सौ वर्ष पहले इस स्थान से गुजर रहे थे। तभी उन्हें यहां पर एक दिव्य शक्ति होने का अहसास हुआ। जब उन्होंने खोज की तो उन्हें देवी का मठ मिला। उन्होंने उस स्थान पर मंदिर बनाने के लिए तत्कालीन शासकों से कहा। भारत पर उस समय औरंगजेब का शासन था। औरगंजेब ने यहां पर मंदिर बनाने से इंकार कर दिया। इस बीच औरगंजेब की बहन जहांआरा की तबियत खराब होने लगी। औरगंजेब अपनी बहन से बहुत प्यार करता है। उसे कई हकीम को दिखाया गया परन्तु उस पर कोई भी दवा का असर नहीं हो रहा था। फिर एक रात माता ने जहांआरा को बाल रूप में दर्शन दिए और उससे कहा कि यदि उसका भाई औरंगजेब मंदिर का जीर्णोद्वार कराये तो वह स्वस्थ हो जायेंगी। इस बात का पता जब औरंगजेब को लगा तो उसने स्वयं ही अपने मजदूरों को भेजा और मंदिर का जीर्णोद्धार करवाया। इस कारण आज भी मंदिर के ऊपर निर्मित मस्जिद नुमा आकृति और तीन गुंबद इस बात को प्रमाणित करते हैं।

चैत्र मास में यहाँ पर एक भव्य मेले का आयोजन होता है। यह मेला चैती मेला के नाम से प्रसिद्ध है। इस मेले में लाखों भक्त दूर दूर से आकर माता के दर्शन करने आते हैं और अपनी मनोकामना पूर्ति की कामना करते हैं। मान्यता है कि इन दिनों माता इस मंदिर में विराजती हैं और वहां आये हुए सभी भक्तों के कष्टों को दूर करती हैं।

इस मंदिर में बाला सुंदरी के अतिरिक्त यहां शिव मंदिर, बृजपुर वाली देवी मंदिर, भगवती ललिता मंदिर और भैरव व काली मंदिर भी हैं। इस मंदिर में किसी देवी की मूर्ति नहीं बल्कि एक पत्थर पर बांह का आकार है। यहां पर इसी की पूजा अर्चना होती है। मंदिर परिसर में एक कदम्ब का वृक्ष है जो तने और पतली टहनी तक पूर्ण रूप से खोखला है। इसे मां की महिमा का प्रतीक मानते हैं।

चैती बाला सुंदरी मंदिर में माता को नारियल, चुनरी, फल, फूल ,फूल माला आदि चढ़ाया जाता है। पहले यहाँ पर बलि देने की भी परंपरा थी परन्तु अब नारियल की बलि दी जाती है।