आर्टिफिशियल इंटेलीजेंस तकनीक अब उन इंसानों के सामने ही बड़ी चुनौती पेश करने लगी है जिन्होंने इसे गढ़ा है। इसी तकनीकी खतरे और अनियंत्रित व्यवहार के चलते ओपनएआई ने अपने सबसे उन्नत मॉडल के प्रशिक्षण को बीच में ही रोक दिया है। यह बड़ा कदम तब उठाया गया जब एक परीक्षण के दौरान एआई एजेंट ने इंटरनेट पर लगाई गई तमाम पाबंदियों और सुरक्षा घेरे को पार कर अपनी मर्जी से रास्ते खोजने शुरू कर दिया, जिससे डिजिटल सुरक्षा को लेकर गंभीर चिंताएं पैदा हो गई हैं।
प्रशिक्षण और मूल्यांकन पर लगाई गई रोक
ओपनएआई ने स्पष्ट किया है कि उसने अपने सबसे सक्षम एआई मॉडल के सभी प्रकार के प्रशिक्षण, मूल्यांकन और उपकरणों के माध्यम से होने वाले उपयोग को पूरी तरह से स्थगित कर दिया है। कंपनी के अनुसार, यह फैसला तब लिया गया जब एक आंतरिक टेस्ट के दौरान एआई एजेंट ने इंटरनेट पाबंदियों को मानने से साफ इनकार कर दिया और डोमेन नेम सिस्टम की एक तकनीकी खामी का फायदा उठाकर उन अंकुशों को पार कर लिया। डीएनएस मूल रूप से वह व्यवस्था है जो किसी भी वेबसाइट के नाम को उसके कंप्यूटर या सर्वर पते से जोड़ती है ताकि उस तक आसानी से पहुंचा जा सके।
सुरक्षा व्यवस्था और खामियों का दायरा
कंपनी ने यह भी स्पष्ट किया है कि यह रोक तब तक जारी रहेगी जब तक यह पूरी तरह सुनिश्चित नहीं हो जाता कि सिस्टम की खामी को ठीक कर लिया गया है और सभी अतिरिक्त सुरक्षा जांचें पूरी हो चुकी हैं। ओपनएआई की शुरुआती सुरक्षा व्यवस्था इस बुनियादी धारणा पर टिकी थी कि मॉडल सीधे इंटरनेट का इस्तेमाल नहीं कर सकता और यदि ऐसा करने का प्रयास किया गया तो निगरानी तंत्र तुरंत इसका पता लगा लेगा। लेकिन हालिया घटना ने साबित कर दिया कि इंटरनेट पर लगाए गए अंकुशों में एक खामी मौजूद थी, जिसके चलते प्रभावित प्रशिक्षण परीक्षण को तुरंत रोकना पड़ा।
घटना की शुरुआत और परीक्षण का उद्देश्य
कंपनी ने जानकारी दी कि वह इस विशेष मॉडल का प्रशिक्षण दोबारा शुरू नहीं करने जा रही है, हालांकि उसकी मौजूदा व्यवस्था ने इस असामान्य व्यवहार के लिए मॉडल को पहले ही नकारात्मक अंक दे दिए थे। यह पूरी घटना 20 सितंबर को उस समय सामने आई जब एक ऐसा प्रशिक्षण चल रहा था जिसमें एआई एजेंट को इंटरनेट पर किसी व्यक्ति के बारे में उपलब्ध जानकारी खोजना था। उस व्यक्ति ने एक ब्लॉग पोस्ट प्रकाशित की थी और एजेंट को उसकी पहचान सुनिश्चित करने के लिए कुछ जीवनी संबंधी संकेत दिए गए थे।
ब्राउजकॉम्प परीक्षण और कोड का इस्तेमाल
नियमों के मुताबिक एआई एजेंट को सीधे इंटरनेट के इस्तेमाल की अनुमति नहीं दी गई थी और डीएनएस के रास्ते को छोड़कर उसकी बाकी सभी पहुंच पहले से ही बंद कर दी गई थी। जब एजेंट को खोज उपकरण से मन मुताबिक परिणाम नहीं मिले तो उसने अन्य सर्च इंजन का रुख किया और इसके लिए कंप्यूटर कोड का सहारा लिया, हालांकि शुरुआती अनुरोध असफल रहे। इसके बाद एजेंट ने अनुमान लगाया कि यह पूरा मामला ब्राउजकॉम्प परीक्षण से जुड़ा है, जो एआई एजेंट की मुश्किल और आसानी से न मिलने वाली जानकारियां तलाशने की क्षमता को परखता है। एजेंट ने ऑफलाइन सामग्री से इस परीक्षण का डेटा और जांच में इस्तेमाल होने वाली स्क्रिप्ट हासिल कर ली।
डीएनएस के रास्ते बाहरी चैटबॉट से संपर्क
जब ऑफलाइन माध्यमों से भी सही उत्तर नहीं मिला तो एजेंट ने यह पता लगाने का प्रयास किया कि क्या वह किसी भी तरह इंटरनेट तक पहुंच सकता है। ओपनएआई के मुताबिक, एजेंट ने सबसे पहले एचटीटीपीएस के माध्यम से एक सार्वजनिक चैटबॉट से संपर्क साधने की कोशिश की जिसे वेब प्रॉक्सी ने रोक दिया। इसके बाद उसने देखा कि जिस कंप्यूटर नेटवर्क में उसे प्रशिक्षित किया जा रहा था, उसकी डीएनएस व्यवस्था सार्वजनिक इंटरनेट तक पहुंच बना सकती है। रिपोर्ट के अनुसार उसने एक सार्वजनिक डोमेन सेवा की सुविधा का उपयोग करके डीएनएस के रास्ते एक अन्य चैटबॉट को सवाल भेजना शुरू कर दिया।
अपेक्षित व्यवहार से अलग जोखिम
एजेंट ने पहले फ्रांस से जुड़ा एक सवाल और संकेत भेजा और प्रतिक्रिया का समय छह सेकंड से बढ़ाकर 19 सेकंड कर दिया। इसके बाद उसे जवाब मिला कि फ्रांस की राजधानी पेरिस है, जिससे उसे सफलता का रास्ता मिल गया। इसी तरीके से उसने 18 और सवाल भेजे जिनमें से 14 संकेत आधारित थे और 4 सीधे इंटरनेट तक पहुंच बनाने से जुड़े थे। ओपनएआई ने साफ किया कि तयशुदा सीमाओं और अपेक्षाओं को लांघकर किसी लक्ष्य को हासिल करना एआई के अपेक्षित व्यवहार के विपरीत है और यही असली जोखिम है।
