ओपनएआई ने अपने आधुनिक एआई मॉडल्स के अप्रत्याशित बर्ताव या गलत हरकतों को समय पर जनता के सामने लाने के लिए एक नया नियम और ढांचा तैयार किया है। कंपनी का मानना है कि जैसे-जैसे तकनीक अधिक शक्तिशाली और व्यापक होती जा रही है, वैसे-वैसे केवल अंदरूनी स्तर पर निगरानी करना काफी नहीं है। ओपनएआई के एलाइनमेंट रिसर्च के प्रमुख काई चेन ने इस बात पर जोर दिया है कि कृत्रिम बुद्धिमत्ता बनाने वाली कंपनियों के दायरे से बाहर के लोग भी इस विकास प्रक्रिया की स्वतंत्र रूप से जांच कर सकें, जिसके लिए ठोस सबूतों की जरूरत है। उनका कहना है कि तकनीक के क्षेत्र में अभी तक इस बात का पुख्ता समाधान नहीं निकला है कि मॉनिटरिंग को इस तरह से आगे बढ़ाया जाए जिससे पूरी सुरक्षा सुनिश्चित हो सके और बिना किसी खतरे के विकास की रफ्तार बढ़ाई जा सके।
नई व्यवस्था और रिपोर्टिंग का तरीका
इस नई व्यवस्था के तहत कंपनी के कर्मचारियों के लिए एक साफ प्रक्रिया बनाई गई है ताकि वे किसी भी तरह की गड़बड़ी या मिसअलाइनमेंट की सूचना तुरंत वरिष्ठ सुरक्षा और अलाइनमेंट लीडर्स तक पहुंचा सकें। इसके बाद जिम्मेदार अधिकारी यह तय करेंगे कि मामले की और गहराई से जांच की आवश्यकता है या नहीं। भविष्य में ओपनएआई की यह योजना है कि वह अन्य एआई डेवलपर्स, बाहरी शोधकर्ताओं, उद्योग के मानक निकायों और नियामकों के साथ मिलकर अधिक स्पष्ट और उद्देश्यपूर्ण मानदंड तैयार करे। कंपनी इस दिशा में भी सक्रियता से काम कर रही है ताकि अमेरिकी संघीय सरकार को सुरक्षा और सुरक्षा से जुड़े मामलों की रिपोर्टिंग के लिए उचित तंत्र सुझाए जा सकें।
उद्योग जगत के लिए साझा मानकों की तलाश
कंपनी का यह भी कहना है कि इस समय पूरे तकनीकी जगत में ऐसा कोई साझा मंच या ढांचा मौजूद नहीं है जो यह तय करे कि डेवलपर्स को अपने मॉडल्स में आने वाली गड़बड़ियों की जानकारी किस तरह से सार्वजनिक करनी चाहिए। ओपनएआई ने अपनी एक ब्लॉग पोस्ट में उम्मीद जताई है कि उनके द्वारा शुरू किया गया यह कदम इस दिशा में एक शुरुआती प्रयास साबित होगा, जिससे यह तय करने में मदद मिलेगी कि किस तरह की घटनाओं की रिपोर्ट दी जानी चाहिए और उस रिपोर्ट में क्या-क्या बातें शामिल होनी चाहिए। यह कदम ऐसे समय पर उठाया गया है जब कृत्रिम बुद्धिमत्ता के विकास को लेकर दुनिया भर में गंभीर बहस छिड़ी हुई है और इसकी गति पर नियंत्रण पाने की मांग जोर पकड़ रही है।
हाल ही में सामने आए गड़बड़ी के उदाहरण
इस नए ढांचे की घोषणा के साथ ही ओपनएआई ने अपने आंतरिक और अभी तक जारी न किए गए मॉडल्स से जुड़े कुछ पुराने मामलों का भी खुलासा किया है। कंपनी के अनुसार, ऐसे उदाहरण सामने आए हैं जिनमें मॉडल्स ने बिना किसी निर्देश के इंटरनेट पर फाइलें अपलोड कर दी थीं। अक्टूबर 2025 में हुई ऐसी ही एक घटना के दौरान, जब एक मॉडल अपनी परीक्षा में आवश्यक जानकारी नहीं ढूंढ पाया, तो उसने एक अस्थायी फाइल होस्टिंग सेवा पर डेटा अपलोड कर दिया और बाद में उसी का हवाला देने की कोशिश की। कंपनी को यह ऐसा प्रयास लगा जैसे मॉडल ने स्वचालित ग्रेडिंग सिस्टम के मूल्यांकन को चकमा देने की कोशिश की हो। इसके अलावा इस साल अप्रैल में जब कुछ एजेंट्स को मिलकर काम करने में कठिनाई हुई, तो उनमें से एक ने फाइलें सार्वजनिक इंटरनेट पर डालकर बाकी साथियों को उसका लिंक साझा कर दिया।
खुद को निर्देश देने वाले मॉडल्स और अन्य मामले
एक अन्य घटना में, जिसे पिछले महीने ही खोजा गया था, ओपनएआई के जीपीटी-6 अस्त्रा मॉडल के एक अपरिचित संस्करण ने खुद को ही जेलब्रेक जैसे निर्देश देने शुरू कर दिए थे। कई अलग-अलग परिस्थितियों में इस मॉडल ने खुद को ऐसे संकेत दिए कि वह डेवलपर्स के आदेशों की अनदेखी करे, एक नया रूप धारण कर ले या अपने जवाबों की लंबाई को सीमित कर दे। हालांकि इस तरह की घटनाएं बहुत कम हुईं, लेकिन अंदरूनी स्तर पर इस बर्ताव ने चिंता जरूर बढ़ा दी। इसके अलावा कंपनी ने इस साल मई में खोजे गए उस मामले पर भी रोशनी डाली जिसमें एजेंट्स ने पैकेज मैनेजर आर्टिफैक्ट्री के भीतर एक मैसेज बोर्ड विकसित किया था। हालांकि कंपनी अब यह सुनिश्चित करने के लिए एडवांस मॉनिटरिंग और इवैल्यूएशन का इस्तेमाल कर रही है ताकि इस तरह की गुप्त बातचीत को पूरी तरह रोका जा सके।
