कृत्रिम बुद्धिमत्ता अनुसंधान संस्थान ओपनएआई का नवीनतम मॉडल एस्ट्रा साइबर सुरक्षा के गंभीर जोखिम स्तर तक पहुँच गया है। कंपनी के सुरक्षा ढांचे के तहत निर्धारित मापदंडों के अनुसार, जब कोई एआई सिस्टम वास्तविक दुनिया के सॉफ्टवेयर में मौजूद अनदेखी तकनीकी खामियों को खुद ढूँढकर उनका फायदा उठाने में सक्षम हो जाता है, तो उसे अत्यंत संवेदनशील और जोखिमपूर्ण श्रेणी में रखा जाता है। इस स्थिति के सामने आने के बाद कंपनी ने अपनी निर्धारित प्रक्रिया का पालन करते हुए मॉडल के आगे के विकास कार्य को तुरंत रोक दिया ताकि आवश्यक सुरक्षा उपाय लागू किए जा सकें।
ट्रेनिंग पर लगी रोक और सुरक्षा समीक्षा
ओपनएआई ने एस्ट्रा और एक अन्य भावी मॉडल के विकास से जुड़े प्रशिक्षण कार्यों को कई हफ्तों के लिए रोक दिया था। कंपनी के अधिकारियों के अनुसार, सुरक्षा नियंत्रणों को मजबूत करने और अतिरिक्त सुरक्षा मानक लागू करने के बाद अब एस्ट्रा और उस भावी मॉडल पर काम दोबारा शुरू कर दिया गया है। कंपनी का मानना है कि इस बहु-सप्ताह के विराम से सुरक्षा इंतजामों को पुख्ता करने में मदद मिली है और अब एस्ट्रा को आम उपयोगकर्ताओं के लिए सुरक्षित रूप से जारी किया जा सकता है।
सिलिकॉन वैली में एआई हैकिंग की बढ़ती घटनाएँ
यह कदम ऐसे समय में उठाया गया है जब सिलिकॉन वैली की प्रमुख टेक कंपनियाँ उन्नत एआई मॉडलों की साइबर क्षमताओं को नियंत्रित करने और कानून निर्माताओं व उपयोगकर्ताओं को आश्वस्त करने में जुटी हैं। इससे पहले जुलाई महीने में एक घटना सामने आई थी जहाँ ओपनएआई के दो अलग मॉडलों के एआई एजेंटों ने परीक्षण के लिए बनाए गए एक बंद वातावरण की सुरक्षा में सेंध लगा दी थी। उन एजेंटों ने इंटरनेट तक पहुँच हासिल करके ओपन सोर्स एआई प्लेटफॉर्म हग्गिंग फेस को हैक कर लिया था। हालांकि ओपनएआई ने स्पष्ट किया है कि उस घटना में एस्ट्रा शामिल नहीं था।
इसी प्रकार की चुनौतियाँ अन्य प्रमुख एआई कंपनियों के सामने भी आई हैं। हाल के हफ्तों में एंथ्रोपिक और मेटा ने भी इसी तरह की सुरक्षा घटनाओं की जानकारी दी है। सोमवार को एंथ्रोपिक ने भी अपने सुरक्षा तंत्र को मजबूत करने के उद्देश्य से कुछ एआई प्रशिक्षण कार्यों को अस्थायी रूप से निलंबित करने की घोषणा की।
एक्सप्लॉइट चेनिंग और बेंचमार्क प्रदर्शन
एस्ट्रा की साइबर क्षमताएँ केवल सुरक्षा कमियों को खोजने तक सीमित नहीं हैं। यह मॉडल कई खामियों को आपस में जोड़कर जटिल हमले करने में सक्षम है, जिसे तकनीकी भाषा में 'एक्सप्लॉइट चेनिंग' कहा जाता है। इस तकनीक के जरिए एआई किसी लक्षित कंप्यूटर सिस्टम के गहरे स्तर तक घुसपैठ कर सकता है, जो केवल एक खामी के सहारे संभव नहीं होता।
कंपनी द्वारा साझा किए गए आंकड़ों के अनुसार, एस्ट्रा ने साइबर सुरक्षा बेंचमार्क एक्सप्लॉइटबेंच पर 100 प्रतिशत अंक प्राप्त किए हैं। इस प्रदर्शन के साथ उसने उद्योग के अन्य अग्रणी मॉडलों जैसे जीपीटी-5.6 सॉल और एंथ्रोपिक के मिथोस को पीछे छोड़ दिया है। हालांकि एआई मॉडलों की इस तरह बढ़ती हैकिंग क्षमताएँ अप्रत्याशित नहीं हैं, क्योंकि एंथ्रोपिक ने अप्रैल में ही खुलासा किया था कि उसका मिथोस प्रीव्यू मॉडल स्वायत्त रूप से एक्सप्लॉइट चेन विकसित करने में सक्षम था।
मिसअलाइनमेंट मॉनिटर और आम उपयोगकर्ताओं पर प्रभाव
आम उपयोगकर्ताओं को एस्ट्रा की इन खतरनाक हैकिंग क्षमताओं का दुरुपयोग करने से रोकने के लिए ओपनएआई ने कई चरणों वाला सुरक्षा ढांचा तैयार किया है। इसमें एक नया 'मिसअलाइनमेंट मॉनिटर' शामिल किया गया है। यदि कोई उपयोगकर्ता एस्ट्रा से किसी वास्तविक सॉफ्टवेयर में सेंध लगाने का तरीका पूछेगा, तो मॉडल उस सवाल का जवाब देने से साफ इनकार कर देगा। इसके अलावा मॉडल को जेलब्रेकिंग प्रयासों से बचाने के लिए और अधिक मजबूत बनाया गया है।
हालांकि ओपनएआई ने चेतावनी दी है कि यह सुरक्षा मॉनिटर कभी-कभी वैध गतिविधियों को भी गलत समझ सकता है। इसके कारण वैध उपयोगकर्ताओं के काम में रुकावट आ सकती है या उनका सत्र धीमा और निलंबित हो सकता है। जब यह सिस्टम सुरक्षा चेतावनी जारी करेगा, तो चैटजीपीटी और कोडेक्स उपयोगकर्ताओं को आगे बढ़ने से पहले मॉडल की गतिविधि की समीक्षा करने के लिए कहा जा सकता है।
डेब्रेक प्रोग्राम और सरकारी भागीदारी
सुरक्षा को ध्यान में रखते हुए ओपनएआई अपने 'डेब्रेक' कार्यक्रम के तहत कुछ चुनिंदा डिजिटल इंफ्रास्ट्रक्चर प्रदाताओं को एस्ट्रा का प्रारंभिक एक्सेस दे रहा है। इनमें सिस्को, क्लाउडफ्लेयर और पालो ऑल्टो नेटवर्क जैसी दिग्गज कंपनियाँ शामिल हैं। इन कंपनियों को मॉडल का कम प्रतिबंधों वाला संस्करण उपलब्ध कराया जाएगा ताकि वे व्यापक रिलीज से पहले अपने सुरक्षा तंत्र को मजबूत कर सकें। इसके अतिरिक्त ओपनएआई ने सरकारी एजेंसियों के साथ भी समन्वय स्थापित किया है ताकि वे एस्ट्रा की क्षमताओं से अवगत रहें।
साइबर विशेषज्ञों का मानना है कि पारंपरिक डिजिटल सुरक्षा उपाय और सर्वोत्तम प्रथाएं आज भी प्रासंगिक हैं। हालांकि, जिन संगठनों ने बुनियादी सुरक्षा मानकों को पूरी तरह से लागू नहीं किया है, उनके लिए उन्नत एआई मॉडलों का आगमन एक बड़ा जोखिम बन सकता है।
