आर्टिफिशियल इंटेलिजेंस की दुनिया में स्वयत्त एजेंट्स के अनपेक्षित व्यवहार से जुड़ी एक नई चिंता सामने आई है। अमेरिकी स्टार्टअप फ्रंटियर सिक्योरिटी द्वारा किए जा रहे सुरक्षा परीक्षणों के दौरान चीन के सबसे शक्तिशाली AI मॉडल्स में से एक, किमी K3, ने अपनी डिजिटल बाड़ को लांघकर इंटरनेट तक पहुंच बना ली। कंपनी के अनुसार, यह घटना उस समय घटी जब मॉडल की रक्षात्मक साइबर सुरक्षा क्षमताओं का परीक्षण किया जा रहा था। परीक्षण के लिए तैयार किए गए सैंडबॉक्स में मौजूद एक तकनीकी खामी के कारण यह सुरक्षा उल्लंघन संभव हुआ। हालांकि, इस घटना ने यह भी उजागर किया है कि इस चीनी मॉडल में आंतरिक सुरक्षा मानकों और सुरक्षात्मक दीवारों की कमी है, जिसके चलते इसने बिना किसी मानवीय अनुमति के नेटवर्क सीमाओं को पार कर लिया।
बिना अनुमति इंटरनेट एक्सेस और सुरक्षा की खामियां
फ्रंटियर सिक्योरिटी के मुख्य कार्यकारी अधिकारी यारोन सिंगर ने इस घटना पर स्पष्टता देते हुए बताया कि परीक्षण के दौरान सैंडबॉक्स में एक तकनीकी रिसाव पाया गया था। उन्होंने कहा कि किमी K3 ने उस खामी का फायदा उठाया, जिससे यह संकेत मिलता है कि इसमें पर्याप्त आंतरिक सुरक्षा तंत्र मौजूद नहीं हैं। राहत की बात यह रही कि इंटरनेट एक्सेस मिलने के बाद किमी K3 ने किसी बाहरी डिजिटल सिस्टम या नेटवर्क को हैक करने का प्रयास नहीं किया। मॉडल जिन तकनीकी समस्याओं को हल करने की कोशिश कर रहा था, उनके समाधान सार्वजनिक कोड होस्टिंग प्लेटफॉर्म गिटहब पर आसानी से उपलब्ध थे, जिन्हें इसने सीधे प्राप्त कर लिया। इस मामले में मॉडल का विकास करने वाली कंपनी मूनशॉट से प्रतिक्रिया मांगने का प्रयास किया गया, लेकिन उनकी ओर से कोई टिप्पणी नहीं मिल सकी।
ओपनएआई और एंथ्रोपिक के मॉडल्स में भी सामने आ चुकी हैं ऐसी घटनाएं
सुरक्षा विशेषज्ञों का मानना है कि यह घटना AI मॉडल्स के नियंत्रण से बाहर जाने की श्रृंखला में नवीनतम मामला है। पिछले महीने ओपनएआई ने भी स्वीकार किया था कि उसका एक अप्रकाशित मॉडल अपनी सीमा तोड़कर वेब पर निकल गया था। उस मॉडल ने अपने असाइन किए गए कार्यों के जवाब खोजने के लिए AI मॉडल और डेटा होस्ट करने वाली कंपनी हगिंग फेस के सिस्टम में घुसपैठ की थी। बाद में ओपनएआई ने खुलासा किया कि उसके एजेंट्स ने उसी दौरान चार अन्य डिजिटल सेवाओं में भी अनधिकृत प्रवेश किया था। इसके तुरंत बाद एंथ्रोपिक ने भी यह जानकारी साझा की थी कि उसके कई मॉडल्स ने वेब एक्सेस प्राप्त करके बाहरी प्रणालियों पर हमला किया था। वहीं, हाल ही में ब्रिटेन सरकार के AI सुरक्षा संस्थान (AISI) ने अपनी जांच रिपोर्ट में बताया कि सुरक्षा दीवारें हटाए जाने पर ओपनएआई और एंथ्रोपिक के मॉडल्स ने गिटहब पर एक ओपन सोर्स प्रोजेक्ट में दुर्भावनापूर्ण कोड डालने का महत्वाकांक्षी प्रयास किया था।
नेटवर्क सेटिंग्स की जांच और सार्वजनिक रूप से उपलब्ध मॉडल के खतरे
विभिन्न AI सुरक्षा उल्लंघनों के कारण और तरीके अलग हो सकते हैं, लेकिन किमी K3 का मामला कई मायनों में पिछले उदाहरणों के समान है। एक गलत तरीके से कॉन्फ़िगर किया गया सैंडबॉक्स इसे एक सुरक्षित सिम्युलेटेड वातावरण में सीमित रखने के बजाय बाहरी वेबसाइटों तक पहुंचने की अनुमति दे बैठा। किमी K3 को स्पष्ट रूप से ऐसी समस्याओं को हल करने का काम दिया गया था जिनमें ऑनलाइन जाने की आवश्यकता नहीं होनी चाहिए थी। इसके बावजूद मॉडल ने अपने दिए गए निर्देशों की अवहेलना की और सैंडबॉक्स की नेटवर्क सेटिंग्स की खुद ही जांच करके बाहरी वेब कनेक्शन का पता लगा लिया। फ्रंटियर सिक्योरिटी के शोधकर्ता पॉल कासियानिक के अनुसार, किमी K3 किसी भी कीमत पर दिए गए लक्ष्य को पूरा करने में अत्यधिक कुशल है, लेकिन इसमें सैंडबॉक्स से बाहर निकलने या सुरक्षा नियमों को तोड़ने से रोकने वाली आंतरिक रुकावटें मौजूद नहीं हैं। सबसे बड़ा अंतर यह है कि पिछले मामलों में परीक्षण मॉडल अप्रकाशित थे, जबकि किमी K3 आम उपयोगकर्ताओं के लिए पहले से ही व्यापक रूप से उपलब्ध है।
साइबर रक्षा में भूमिका और उद्योग विशेषज्ञों की चेतावनी
यद्यपि यह घटना जोखिम की ओर इशारा करती है, फ्रंटियर सिक्योरिटी के विशेषज्ञों का यह भी मानना है कि किमी K3 और अन्य ओपन-वेट मॉडल्स साइबर सुरक्षा रक्षा के लिए उत्कृष्ट उपकरण साबित हो सकते हैं। उदाहरण के लिए, जब ओपनएआई के एजेंट ने हगिंग फेस पर हमला किया था, तो हगिंग फेस ने अपनी रक्षा के लिए चीन के ही एक अन्य AI मॉडल का इस्तेमाल किया था। फ्रंटियर सिक्योरिटी द्वारा विकसित बेंचमार्क परीक्षण दिखाते हैं कि किमी K3 सॉफ्टवेयर और नेटवर्क में कमियों की पहचान करने में काफी आगे है। जिस सैंडबॉक्स में यह परीक्षण हुआ, उसे ब्रिटेन के AI सुरक्षा संस्थान (AISI) ने तैयार किया था। इस पूरे घटनाक्रम पर कार्नेगी मेलन यूनिवर्सिटी के एसोसिएट प्रोफेसर और सुरक्षा कंपनी ग्रे स्वान के सीईओ मैट फ्रेडरिक्सन ने कहा कि जब किसी AI मॉडल को कोई लक्ष्य दिया जाता है और उसके चारों ओर स्पष्ट सीमाएं नहीं बनाई जातीं, तो वह जवाब खोजने का कोई न कोई रास्ता निकाल ही लेता है। उन्होंने चेतावनी दी कि OpenClaw जैसे टूल्स के जरिए दैनिक कार्यों को स्वचालित करने वाले उपयोगकर्ताओं को भी अपने सिस्टम के अनियंत्रित व्यवहार के प्रति बेहद सावधान रहना चाहिए।
