लोहगड के पास स्थित कार्ला की गुफाएं जटिल चट्टानों को काटकर बनाई गई प्राचीन बौद्ध मंदिरों में से एक है, जो प्रारंभिक बौद्ध मंदिर कला को दर्शाता है। पत्थरों को काटकर कार्ला के प्रवेश द्वार को घोड़े की नाल का आकार दिया गया हो जो बहुत ही भव्य और शानदार है। इसकी मुख्य गुफा को चैत्या कहा जाता है जिसमें 37 स्तंभ हैं जिन पर शेर और हाथियों के चित्रों को उकेरा गया है। गुफाओं में बनी नक्काशियों को दो चीजों से अलंकृत किया गया है- धातु गहने और हाथी दाँत। वास्तुकला और इतिहास में गहरी दिलचस्पी रखने वाले पर्यटकों के लिए यह स्थान आकर्षण का मुख्य केंद्र है। इसके अलावा पर्यटक यहां स्थित "एकवीरा मंदिर" भी घूम सकते हैं जो देवी काली को समर्पित है।
कार्ला गुफाओं को पांचवीं शताब्दी से दूसरी शताब्दी ई.पू. के बीच धार्मिक स्थलों के रूप में विकसित किए गए थे। इसके बाद यह 5 वीं शताब्दी से 10 वीं सदी में विकसित की गई। गुफा के अंदर खुदे हुए अभिलेख अपनी प्राचीनता का प्रमाण देते हैं। प्रथम शताब्दी में कार्ला गुफाओं का आरंभ हीनयान सम्प्रदाय द्वारा करवाया गया था।
आरंभ में कार्ला गुफाओं में रहकर बौद्ध भिक्षु लम्बे समय तक ध्यान लगाते थे। यह बात यहां बने बौद्ध मठों और प्रेयर हॉल से पता चलती हैं।