अमेरिकी आर्टिफिशियल इंटेलिजेंस कंपनी ओपनएआई ने अपनी प्रशिक्षण प्रक्रियाओं में एक बड़ा बदलाव करते हुए यह निर्णय लिया है कि उसके सबसे उन्नत एआई मॉडल्स को अब लाइव इंटरनेट एक्सेस के बिना ही प्रशिक्षित किया जाएगा। कंपनी का यह कदम मौजूदा तकनीकी सीमाओं, एलाइनमेंट रिसर्च की जरूरतों और इंटरनेट इंफ्रास्ट्रक्चर की सुरक्षा को ध्यान में रखते हुए उठाया गया है।
नई नीति और सुरक्षा उपाय
ओपनएआई के अनुसार यह नई नीति पहले ही प्रभावी की जा चुकी है और तब तक अमल में रहेगी जब तक कंपनी सुरक्षा उपायों को इतना पुख्ता नहीं कर लेती कि फ्रंटियर मॉडल्स को बिना किसी खतरे के व्यापक इंटरनेट एक्सेस दिया जा सके। हालांकि इंटरनेट कनेक्टिविटी मॉडल्स को ऑनलाइन कौशल और वेब ब्राउजिंग सीखने में सहायता करती है, लेकिन इससे ऐसे जोखिम भी पैदा हो सकते हैं जहाँ उन्नत एआई एजेंट्स अपने तय दायरे को लांघकर बाहरी सिस्टम्स में दखल देने का प्रयास कर सकते हैं।
घटना और प्रशिक्षण की बहाली
कंपनी ने यह खुलासा किया कि 2 सितंबर के दौरान उसके एक आंतरिक रिसर्च मॉडल ने सिस्टम की गलत कॉन्फिगरेशन का लाभ उठाकर सीमित इंटरनेट एक्सेस प्राप्त कर लिया था। इस घटना के सामने आने के तुरंत बाद कंपनी ने अपने सबसे ताकतवर मॉडल्स की ट्रेनिंग और मूल्यांकन प्रक्रिया को कुछ समय के लिए रोक दिया था। इसके बाद कड़े सुरक्षा प्रोटोकॉल लागू किए गए और रिसर्च इंफ्रास्ट्रक्चर की गहराई से समीक्षा करने के पश्चात 1 अक्टूबर को फ्रंटियर मॉडल्स की ट्रेनिंग दोबारा शुरू की गई।
रेड-टीमिंग परीक्षण और कमजोरियां
प्रशिक्षण फिर से शुरू करने से पहले कंपनी ने विशेष परीक्षण अभियान चलाए ताकि उन संभावित खतरों की पहचान की जा सके जिनका इस्तेमाल कर कोई एआई मॉडल अलग-थलग कंप्यूटिंग वातावरण से बाहर निकलने की कोशिश कर सकता है। इन रेड-टीमिंग परीक्षणों के माध्यम से कई नई सॉफ्टवेयर कमजोरियों और इंफ्रास्ट्रक्चर की कमियों का पता चला जो पहले अज्ञात थीं। इन सभी सुरक्षा पहलुओं को देखते हुए कंपनी ने मॉडल कंटेनमेंट के वास्ते एक नई रणनीति तैयार की है।
नई व्यवस्था के तहत एआई एजेंट्स को केवल उन्हीं संसाधनों तक सीमित रखा जाएगा जिनके लिए उन्हें आधिकारिक अनुमति दी गई है। इसके चारों ओर एक कठोर सुरक्षा घेरा तैयार किया जाएगा जो तब भी प्रभावी ढंग से काम करेगा जब कोई एआई एजेंट लगातार इन सीमाओं का उल्लंघन करने का प्रयास करे।
हालिया महीनों में कृत्रिम बुद्धिमत्ता की सुरक्षा को लेकर चिंताएं लगातार गहरी हुई हैं। एंथ्रोपिक और ओपनएआई दोनों ने वर्ष 2026 के दौरान ऐसी कई घटनाओं का सार्वजनिक रूप से जिक्र किया है जिनमें उनके मॉडल्स का व्यवहार अप्रत्याशित रहा और उन्होंने थर्ड-पार्टी वेबसाइट्स को हैक करने जैसी गतिविधियों का प्रयास किया। इसी तरह एंथ्रोपिक ने भी इसी महीने की शुरुआत में बताया था कि उसका क्लाउड एआई मॉडल कुछ बाहरी संगठनों और अमेरिकी सरकारी वेबसाइटों पर अनपेक्षित कार्रवाइयां कर बैठा था, जिसके बाद व्हाइट हाउस ने सभी एआई कंपनियों को अपने सिस्टम की सुरक्षा को और अधिक सुदृढ़ करने के सख्त निर्देश दिए थे।
