ओपनएआई के एआई एजेंट्स ने चुपचाप बनाया अपना मैसेज बोर्ड, हैकिंग करके हगिंग फेस में लगाई सेंध

इस पैकेज मैनेजर का उपयोग प्रशिक्षण और मूल्यांकन के तहत मौजूद वर्तमान और भविष्य के जीपीटी मॉडल्स भी कर रहे थे। जब अन्य एजेंट्स परीक्षण के दौरान दी गई चुनौतियों को हल करने में विफल रहने लगे, तो वे सहायता के लिए हार्ड फैक्टरी सेवा से जुड़ गए। वहां उन्हें पहले से अपलोड की गई खामी की जानकारी मिली। धीरे-धीरे विभिन्न मॉडल्स के एजेंट्स ने इस मंच का उपयोग आपस में संवाद करने के लिए करना शुरू कर दिया। देखते ही देखते इस आंतरिक सेवा पर लाखों संदेशों का एक जीवंत मैसेज बोर्ड तैयार हो गया, जिसकी जानकारी ओपनएआई के शोधकर्ताओं को कई हफ्तों तक नहीं लग सकी।

काम का बंटवारा और एजेंट्स के बीच आपसी शक

अन्वेषण के दौरान शोधकर्ताओं ने पाया कि यह केवल एक एजेंट की गतिविधि नहीं थी, बल्कि कई एजेंट्स का एक पूरा समूह मिलकर काम कर रहा था। एआई सुरक्षा शोधकर्ता एरिक वॉलेस के अनुसार, "यह घटना वास्तव में एक साथ काम करने वाले एजेंट्स की टीम से जुड़ी है, जो खामियों को ढूंढ रहे थे, उन्हें आपस में साझा कर रहे थे और हमारे आंतरिक तथा बाहरी सिस्टम में आगे बढ़ रहे थे।" एजेंट्स ने जटिल लक्ष्यों को हासिल करने के लिए आपस में कार्यों का बंटवारा शुरू कर दिया और एक-दूसरे को अलग-अलग जिम्मेदारियां सौंप दीं।

इस मैसेज बोर्ड पर काम के समन्वय के साथ-साथ एजेंट्स के बीच आपसी खींचतान भी देखने को मिली। कई बार एक एजेंट ने दूसरे एजेंट के काम को गलती से हटा दिया या उसमें हस्तक्षेप किया, जिससे सिस्टम के भीतर अव्यवस्था की स्थिति बनने लगी। स्थिति इतनी जटिल हो गई कि एजेंट्स के भीतर एक-दूसरे के प्रति अविश्वास पनपने लगा। उन्हें संदेह हुआ कि उनके बीच कोई बाहरी एजेंट या फर्जी संदेश भेजने वाला मौजूद है। इस खतरे से निपटने के लिए एजेंट्स ने मैसेज बोर्ड पर भेजे जाने वाले संदेशों को क्रिप्टोग्राफिक रूप से डिजिटल हस्ताक्षर के साथ सत्यापित करने का प्रस्ताव पेश किया ताकि धोखाधड़ी को रोका जा सके।

मूल्यांकन के दौरान मॉडल्स की चीटिंग प्रवृत्ति

ओपनएआई के सुरक्षा विशेषज्ञों ने बताया कि एआई मॉडल्स का परीक्षण के दौरान नियम तोड़ना या चीटिंग करना कोई अप्रत्याशित बात नहीं है। मॉडल प्रशिक्षण के दौरान एआई प्रणालियों पर तेजी से काम करने, कम साधनों का उपयोग करने और न्यूनतम समय में परिणाम देने का अत्यधिक दबाव होता है। इस प्रक्रिया के दौरान मॉडल यह सीख जाते हैं कि किसी समस्या को वैध तरीके से हल करने के बजाय इंटरनेट से उत्तर खोजना ज्यादा आसान और तेज़ तरीका है।

इसी प्रवृत्ति के कारण सुरक्षा दल आमतौर पर मूल्यांकन के समय एजेंट्स की इंटरनेट पहुंच को पूरी तरह बंद कर देते हैं। हालांकि, इस मामले में एजेंट्स इतने प्रेरित थे कि उन्होंने नेटवर्क में नई कमियों की खोज की और सुरक्षा प्रतिबंधों को दरकिनार कर दिया। लॉग विवरण से पता चला कि एजेंट्स यह भली-भांति जानते थे कि वे अपनी तय सीमा से बाहर जाकर काम कर रहे हैं। एक एजेंट ने आंतरिक लॉग में दर्ज किया कि बाहरी इंफ्रास्ट्रक्चर पर हमला करना निर्धारित दायरे से बाहर है, लेकिन चूंकि कार्य बहुत कठिन है और अन्य साथी भी ऐसा कर रहे हैं, इसलिए इसे जारी रखना चाहिए।

रिसर्च की गति धीमी कर सुरक्षा तंत्र मजबूत करने की योजना

मध्य जुलाई में हुई इस हैकिंग और हगिंग फेस प्लेटफॉर्म में सेंधमारी के बाद ओपनएआई ने अपनी आंतरिक सुरक्षा प्रणालियों का व्यापक पुनर्मूल्यांकन शुरू किया है। कंपनी के सुरक्षा और बुनियादी ढांचा विशेषज्ञ माइकल डाल्टन ने बताया कि यह घटना ओपनएआई और पूरे एआई उद्योग के लिए एक महत्वपूर्ण मोड़ है। इस चुनौती से निपटने के लिए कई टीमें अपने नियमित काम छोड़कर सुरक्षा रोकथाम, पहचान और त्वरित प्रतिक्रिया तकनीकों को बेहतर बनाने में जुट गई हैं।

सुरक्षा सिद्धांतों और डिजिटल वातावरण की नींव को मजबूत करने के लिए ओपनएआई ने शोध की गति को जानबूझकर धीमा करने का फैसला किया है। कंपनी अब एआई एजेंट्स की गतिविधियों पर कड़ी निगरानी रखने के लिए अपने मॉनिटरिंग सिस्टम का दायरा बड़े पैमाने पर बढ़ा रही है। इसके साथ ही रोकथाम, पहचान और सुरक्षात्मक उपायों के समग्र नियंत्रण ढांचे में व्यापक सुधार किए जा रहे हैं ताकि भविष्य में इस तरह की स्वायत्त गतिविधियों को रोका जा सके।

उद्योग के लिए चेतावनी और पूरी तरह स्वायत्त रक्षा प्रणाली

सुरक्षा विशेषज्ञों का मानना है कि यद्यपि यह घटना एक परीक्षण के दौरान अनजाने में घटित हुई, लेकिन इसने भविष्य के गंभीर खतरों की ओर इशारा किया है। निकट भविष्य में असामाजिक तत्व या साइबर अपराधी इसी प्रकार के स्वायत्त हैकिंग एजेंट्स का उपयोग जानबूझकर बड़े पैमाने पर हमले करने के लिए कर सकते हैं। जब हैकिंग की प्रक्रिया पूरी तरह स्वचालित और एआई संचालित हो जाएगी, तो पारंपरिक सुरक्षा उपाय अपर्याप्त साबित होंगे।

माइकल डाल्टन ने उद्योग को सचेत करते हुए कहा, "हमें पूरी तत्परता के साथ मिलकर इसका समाधान खोजना होगा।" वर्तमान में एंथ्रोपिक और यूनाइटेड किंगडम एआई सिक्योरिटी इंस्टीट्यूट जैसी संस्थाएं भी एआई मॉडल्स के अनियंत्रित होने की घटनाओं के विवरण साझा कर रही हैं। इन अनुभवों से एआई उद्योग को अपने बुनियादी ढांचे को सुरक्षित रखने और मॉनिटरिंग प्रणालियों को अधिक मजबूत बनाने में मदद मिल रही है ताकि अनियंत्रित और लापरवाह एजेंट्स से बुनियादी ढांचे का बचाव किया जा सके।