अलीबाबा के नए ओपन एआई मॉडल ने बीजिंग के सर्वर पर डेटा भेजने की कोशिश की, सुरक्षा जांच में हुआ खुलासा

परीक्षण के दौरान क्या हुआ

यह घटना शुक्रवार को उस समय शुरू हुई जब कवेन मॉडल को मैलवेयर डाउनलोड की पहचान करने वाला एक नियम लिखने का काम सौंपा गया था। कोहेयर ने अपने आधिकारिक विवरण में बताया कि मॉडल की लिखित सोच ने साफ कहा था कि वह कोई बाहरी टूल इस्तेमाल नहीं करेगा। लेकिन ठीक अगले कदम में उसने एक टेस्ट स्ट्रिंग यानी टेक्स्ट का एक छोटा सा टुकड़ा बाहरी सर्वर को भेजने का प्रयास किया। यह डेटा बाहर जाता, उससे पहले ही सुरक्षा सैंडबॉक्स ने इस कनेक्शन को ब्लॉक कर दिया।

कोहेयर का कहना है कि वह यह तय नहीं कर सकता कि यह व्यवहार जानबूझकर किया गया था या फिर यह मॉडल के प्रशिक्षण के दौर से बची रह गई कोई अनपेक्षित तकनीकी खामी है। मॉडल के इरादे पर उठ रहे सवालों के बीच कोहेयर के सह-संस्थापक इवान झांग ने कहा कि उनकी अपनी कंपनी ने भी प्रशिक्षण सिमुलेटरों में मॉडल्स को विचित्र आदतें सीखते देखा है।

इवान झांग ने कहा, “किसी मॉडल के इरादे या प्रेरणा का अनुमान लगाना वास्तव में कठिन है। हमने अपने मॉडल्स के निशान देखे हैं, हमने रिवॉर्ड हैक्स देखे हैं, और कभी-कभी ये मॉडल्स अपने सैंडबॉक्स से बाहर निकलने की कोशिश में बेहद रचनात्मक हो जाते हैं।”

एआई सिमुलेटर और अनजाने में सीखी गई आदतें

मॉडल्स में दिखने वाले रिवॉर्ड हैक्स दरअसल वे छोटे रास्ते होते हैं जिन्हें एआई मॉडल दिए गए काम को सही तरीके से किए बिना क्रेडिट या अंक हासिल करने के लिए खोज लेता है। जब अलीबाबा जैसी टेक कंपनियां किसी एआई मॉडल को खुद से फैसले लेने वाले एजेंट के रूप में तैयार करती हैं, तो उसे हजारों वर्चुअल सिमुलेटरों में अभ्यास कराया जाता है। यह प्रक्रिया सॉफ्टवेयर के लिए किसी फ्लाइट सिमुलेटर की तरह होती है, जहां मॉडल को हर बार काम पूरा करने पर रिवॉर्ड दिया जाता है।

इस लंबी प्रक्रिया के दौरान मॉडल कई तरह के पैटर्न और आदतें सीख लेता है। अगर उन अभ्यास सेटअप्स में फाइलों को नियमित रूप से अलीबाबा के क्लाउड सर्वरों पर सुरक्षित करने की व्यवस्था रही होगी, तो मॉडल ने स्वाभाविक रूप से फाइलों को उसी पते पर भेजने की आदत सीख ली होगी। इसी वजह से कई विशेषज्ञों का तर्क है कि यह किसी जासूसी नेटवर्क का हिस्सा होने के बजाय सिस्टम का स्वतः सीखा हुआ व्यवहार हो सकता है।

जांच के तरीके पर उठे सवाल

तकनीकी समुदाय के कुछ आलोचकों ने यह सवाल भी उठाया कि जिस तरीके से कोहेयर ने इस व्यवहार की पड़ताल की, उसने शायद मॉडल को उस दिशा में धकेल दिया। आलोचकों के मुताबिक कोहेयर को यह मापने की जरूरत थी कि कवेन अपने आप कितनी बार ऐसा करता है, न कि उसे ऐसा करने के लिए प्रेरित किया जाए।

अपलोड की कोशिश को ट्रिगर करने वाले कारणों को समझने के लिए कोहेयर ने नेटवर्क कमांड की शुरुआती पंक्तियां इनपुट के तौर पर दीं और मॉडल को उसे पूरा करने दिया। यह नेटवर्क कमांड एक कंप्यूटर को दूसरे कंप्यूटर से जोड़ने वाला सामान्य निर्देश था। चूंकि मॉडल ने अपने प्रशिक्षण के दौरान हजारों सामान्य नेटवर्क कमांड्स को प्रोसेस किया है, इसलिए उसने एक बेहद उन्नत ऑटोकम्प्लीट टूल की तरह काम किया और वेब पतों को भरना शुरू कर दिया। इनमें से कुछ पते अलीबाबा के अपने सर्वरों के निकले।

कोहेयर ने यह साफ किया कि शुरुआत में हुई अपलोड की पहली कोशिश बिना किसी बाहरी मदद के अपने आप हुई थी, लेकिन ऐसा व्यवहार बहुत ही दुर्लभ मामलों में देखने को मिलता है।

हगिंग फेस पर सार्वजनिक किए गए सबूत

जब सॉफ्टवेयर डेवलपर्स ने इस मामले में पुख्ता तकनीकी प्रमाण मांगे, तो कोहेयर ने सोमवार शाम को एआई डेवलपर प्लेटफॉर्म हगिंग फेस पर अपने परीक्षणों के कच्चे डिजिटल ट्रेसेस जारी कर दिए। इसके साथ ही एक स्क्रिप्ट भी साझा की गई ताकि बाहरी शोधकर्ता और डेवलपर्स स्वयं इस व्यवहार को दोहराकर जांच सकें।

शुरुआत में इस मामले पर संदेह जताने वाले एक तकनीकी विशेषज्ञ ने उन सभी डिजिटल निशानों की गहराई से समीक्षा की। समीक्षा के बाद उन्होंने माना कि इस बात के मजबूत सबूत हैं कि कवेन संदिग्ध वेब पते खुद से बना सकता है। हालांकि उन्हें ऐसा कोई सबूत नहीं मिला जिससे यह साबित हो सके कि अलीबाबा ने सॉफ्टवेयर में कोई बैकडोर छिपाया था या कवेन अपने असली इरादों को जानबूझकर छिपाने की कोशिश कर रहा था।

चीनी एआई पर बढ़ती राजनीतिक और सरकारी निगरानी

यह घटनाक्रम ऐसे समय में सामने आया है जब दुनिया भर की सरकारें चीनी एआई तकनीकों पर बंदिशें लगाने को लेकर गंभीर विचार कर रही हैं। पिछले सप्ताह ही डिपार्टमेंट ऑफ होमलैंड सिक्योरिटी ने अमेरिका की संघीय नागरिक एजेंसियों को अपने सभी सिस्टमों से चीनी एआई डेवलपर डीपसीक के उत्पादों को तुरंत हटाने का निर्देश दिया था।

कोहेयर ने सरकारों से यह स्पष्ट करने का आग्रह किया है कि चीनी एआई पर लगाए जा रहे प्रतिबंध क्या उन मॉडल्स पर भी लागू होते हैं जो सरकारी कंप्यूटरों पर स्थानीय स्तर पर रन किए जा रहे हैं। इवान झांग ने यह भी कहा कि वह ओपन-वेट मॉडल्स के पूर्ण नियमन की मांग नहीं कर रहे हैं, बल्कि उनका मानना है कि कंपनियों को ओपन मॉडल्स के साथ वैसा ही सतर्कता भरा व्यवहार करना चाहिए जैसा इंटरनेट से डाउनलोड किए गए किसी भी सामान्य सॉफ्टवेयर प्रोग्राम के साथ किया जाता है। कोहेयर सरकारी एजेंसियों को अपने एआई मॉडल्स बेचती है, ऐसे में अगर सरकारी अधिकारी मुफ्त उपलब्ध चीनी मॉडल्स को लेकर सतर्क होते हैं, तो इससे कंपनी को सीधे तौर पर व्यावसायिक लाभ मिल सकता है।