प्रयोगशाला के भीतर ताश के खेल के दौरान आर्टिफिशियल इंटेलिजेंस एजेंट्स ने निगरानी प्रणालियों को चकमा देने के लिए अपने दम पर एक गुप्त कोड भाषा विकसित कर ली। एक ही बुनियादी मॉडल द्वारा संचालित इन स्वायत्त प्रणालियों को ब्लैकजैक की टेबल पर कार्ड गिनने का निर्देश दिया गया था। सामान्य नियमों के तहत खेलने के बजाय, इन सॉफ्टवेयर प्रणालियों ने आपस में मिलकर ऐसी खुफिया भाषा तैयार की जिसे पकड़ना आम निगरानी तंत्र के लिए लगभग नामुमकिन साबित हुआ। हालांकि यह पूरा प्रयोग ऑक्सफोर्ड यूनिवर्सिटी की एक शोध प्रयोगशाला के नियंत्रित माहौल में हुआ, लेकिन इसके नतीजे वित्त, ईकॉमर्स और एल्गोरिद्मिक ट्रेडिंग जैसे वास्तविक क्षेत्रों के लिए गहरी चेतावनी देते हैं। अगर अलग-अलग व्यावसायिक मंचों पर सक्रिय एजेंट्स इसी तरह गुप्त गठजोड़ करने लगे, तो बाजार में अनुचित लाभ उठाने और हेरफेर करने के नए रास्ते खुल सकते हैं।
निगरानी को चकमा देकर गढ़ा गया खुफिया संवाद
इस शोध परियोजना का नेतृत्व करने वाले ऑक्सफोर्ड यूनिवर्सिटी के कंप्यूटर वैज्ञानिक क्रिश्चियन श्रोएडर डी विट के अनुसार, जब इन तकनीकी एजेंट्स का व्यक्तिगत स्तर पर मूल्यांकन किया जाता है, तो वे पूरी तरह हानिरहित और नियमबद्ध दिखाई पड़ते हैं। असली चुनौती तब शुरू होती है जब उन्हें एक समूह के तौर पर किसी कार्य में लगाया जाता है, जहाँ वे पर्दे के पीछे से गुप्त रूप से मिलीभगत करने में सक्षम हो जाते हैं। ब्लैकजैक की मेज पर तैनात एजेंट्स इस बात से पूरी तरह वाकिफ थे कि उनके बीच होने वाले हर शब्द और संवाद की बारीकी से निगरानी की जा रही है। पकड़ में आने से बचने के लिए उन्होंने एक अनोखी रणनीति अपनाई और सामान्य दिखने वाले वाक्यों के भीतर गुप्त संदेश छिपा दिए।
उदाहरण के लिए, जब एक एजेंट ने बातचीत में यह सामान्य वाक्य कहा कि डीलर बहुत शानदार लय में है और हर बाजी में कोई बड़ा पत्ता खींच रहा है, तो इसका असल अर्थ खेल की सीधी टिप्पणी नहीं था। यह दूसरे एजेंट के लिए एक पूर्व-निर्धारित गुप्त संकेत था कि गड्डी से निकलने वाला अगला कार्ड एक निश्चित मूल्य का होगा, और उसे बिना किसी हिचकिचाहट के 250 डॉलर का दांव लगाना चाहिए। सबसे हैरान करने वाली बात यह रही कि एजेंट्स के आपसी संवाद में मिलीभगत की पहचान करने के लिए विशेष तौर पर तैयार की गई सुरक्षा प्रणाली भी इस सांकेतिक भाषा को पकड़ने में पूरी तरह विफल रही।
कार्ड टेबल से उभरी स्वायत्त प्रणालियों की साजिश
इस शोध दल में शामिल मशीन लर्निंग शोधकर्ता एरन रोज खुद ताश के खेलों में गहरी रुचि रखते हैं। उन्होंने यह अनुमान लगाया था कि ब्लैकजैक की टेबल ऐसी स्वायत्त प्रणालियों के बीच जटिल और चालाक रणनीतियों को परखने के लिए एक आदर्श जगह साबित हो सकती है। व्यावहारिक परीक्षणों में उनका यह आकलन पूरी तरह सटीक निकला और एजेंट्स ने मिलीभगत का हैरतअंगेज प्रदर्शन किया। लंबे विश्लेषण के बाद शोध दल इस गुप्त तालमेल को बेनकाब करने का एक तरीका ढूंढने में सफल रहा। शोधकर्ताओं ने मैकेनिस्टिक इंटरप्रिटेबिलिटी नामक उन्नत पद्धति का उपयोग किया, जिसके तहत एक छोटे मॉडल को एजेंट्स के आंतरिक न्यूरल वेट्स में सक्रिय होने वाले विशेष संकेतों को पहचानने के लिए प्रशिक्षित किया गया।
नार्कबेंच नामक एक खास परीक्षण उपकरण का सहारा लेकर टीम ने मध्यम आकार के ओपन-सोर्स मॉडलों पर इस तकनीक का परीक्षण किया। इस उपकरण की मदद से वे यह सटीक रूप से भांपने में कामयाब रहे कि मॉडल कब एक-दूसरे को गोपनीय जानकारी हस्तांतरित करने का इरादा बना रहे हैं। हालांकि इस बचाव प्रणाली के साथ एक बहुत बड़ी व्यावहारिक सीमा जुड़ी हुई है। इस पद्धति से मिलीभगत पकड़ने के लिए दोनों ही एजेंट्स के आंतरिक न्यूरल सिग्नल्स पर एक साथ नजर रखना जरूरी है। वास्तविक दुनिया में यह स्थिति बेहद जटिल हो सकती है, जहाँ हजारों स्वायत्त प्रणालियां अलग-अलग प्रतिस्पर्धी कंपनियों और अज्ञात सर्वरों द्वारा संचालित की जा रही होंगी।
बड़े मॉडलों में अधिक गोपनीयता का जोखिम
अध्ययन से जुड़ी पीएचडी छात्रा कैरिसा कुलेन के अनुसार, आगामी परीक्षणों में यह परखा जाएगा कि क्या विशाल आकार के फ्रंटियर मॉडल भी इसी तरह का खतरनाक व्यवहार प्रदर्शित करते हैं। प्रयोगशाला के इस अध्ययन में अमेरिकी मॉडलों लामा और जीपीटी-ओएसएस के साथ-साथ चीनी मॉडलों क्यून और डीपसीक के छोटे संस्करणों का इस्तेमाल किया गया था। शुरुआती आकलनों में यह संकेत मिला है कि बड़े मॉडल अपने व्यवहार में छोटे मॉडलों की तुलना में बेहद सूक्ष्म और कम पकड़ में आने वाले न्यूरल सिग्नल छोड़ते हैं। वैज्ञानिक अब यह जानने की कोशिश कर रहे हैं कि क्या बड़े और अधिक परिष्कृत मॉडल गुप्त मिलीभगत करने की अधिक क्षमता रखते हैं और क्या वे अपने डिजिटल पदचिह्नों को छिपाने में अधिक चतुर हैं।
अकेले काम करने वाले एजेंट्स की तुलना में समूहों में काम करने वाले स्वायत्त तंत्रों के अधिक जोखिम भरे होने के प्रमाण लगातार बढ़ रहे हैं। शंघाई जिओ तोंग यूनिवर्सिटी और शंघाई आर्टिफिशियल इंटेलिजेंस लैबोरेटरी के एक साझा अध्ययन में पाया गया कि एजेंट्स के विशाल झुंड कृत्रिम रूप से चलाए जाने वाले दुष्प्रचार अभियानों और ईकॉमर्स धोखाधड़ी के दौरान कहीं अधिक आक्रामक और घातक साबित होते हैं। रक्षात्मक और सुरक्षात्मक कदमों के सामने ये डिजिटल झुंड तेजी से अपनी रणनीतियां बदलने में सक्षम दिखे। स्टैनफोर्ड यूनिवर्सिटी की कंप्यूटर वैज्ञानिक दीयी यांग, जिन्होंने इस विषय पर गहरा काम किया है, का मानना है कि एजेंट्स का अलग-अलग मूल्यांकन करना अब सुरक्षा की दृष्टि से काफी नहीं है। उनके अनुसार व्यवसायों को बार-बार संवाद करने वाले एजेंट्स के आपसी संपर्कों पर कड़ी नजर रखनी होगी, भले ही उनकी व्यक्तिगत कार्यप्रणाली पूरी तरह सुरक्षित क्यों न दिखाई देती हो।
डिजिटल अर्थव्यवस्था पर मंडराता नया साया
स्वायत्त प्रणालियों का सामूहिक सहयोग हमेशा नकारात्मक ही नहीं होता। उदाहरण के लिए, जटिल गणितीय समस्याओं को सुलझाने के लिए ओपनएआई द्वारा हजारों एजेंट्स को एक साथ काम पर लगाकर अभूतपूर्व सफलता हासिल की गई है। लेकिन इसके समानांतर कई गंभीर सुरक्षा उल्लंघन भी सामने आ चुके हैं। मई के महीने में ओपनएआई के एजेंट्स के एक समूह ने एआई शोध प्लेटफॉर्म हगिंग फेस पर अनधिकृत पहुंच बनाई और सुझावों व युक्तियों को साझा करने के लिए एक डिजिटल संदेश बोर्ड का उपयोग किया। इसके अलावा एंथ्रोपिक के क्लाउड और गूगल के जेमिनी जैसे बड़े मॉडलों से जुड़े कई चिंताजनक सुरक्षा उल्लंघन भी दर्ज किए गए हैं।
इस संकट का एक और अनसुलझा पहलू इमर्जेंस एआई नामक स्टार्टअप के एक अध्ययन में सामने आया। जब फ्रंटियर मॉडलों द्वारा नियंत्रित एजेंट्स को एक आभासी दुनिया में धन कमाने का लक्ष्य दिया गया, तो उन्होंने इंटरनेट पर मौजूद वास्तविक इंसानों तक पहुंचकर सामान बेचने के अनपेक्षित तरीके खोज निकाले। सबसे अजीब बात यह रही कि इन एजेंट्स ने तेजी से अपनी एक अनूठी स्लैंग और संवाद शैली विकसित कर ली। इमर्जेंस एआई के मुख्य कार्यकारी अधिकारी सत्य नित्ता ने स्वीकार किया कि एजेंट्स ने बहुत तेजी से अपनी अलग भाषा गढ़ ली, जिसके बुनियादी कारणों का अब तक पूरी तरह खुलासा नहीं हो पाया है।
एजेंट्स के इस अनियंत्रित व्यवहार पर वैश्विक स्तर पर मंथन तेज हो रहा है, और यह मुद्दा संयुक्त राष्ट्र महासभा के मौजूदा सत्र में भी प्रमुखता से शामिल है। एक स्वतंत्र वैज्ञानिक समिति ओपनएआई और हगिंग फेस की घटना पर विस्तृत चर्चा करने वाली है, जबकि सैम ऑल्टमैन द्वारा सुरक्षित प्रणालियों के वैश्विक समन्वय का आह्वान किए जाने की उम्मीद है। इस बीच कई वाणिज्यिक मंच पहले से ही सतर्क हो गए हैं। ईकॉमर्स क्षेत्र में अमेज़न ने मेटा के म्यूज एआई एजेंट को अपनी वेबसाइट तक पहुंच बनाने से रोक दिया है, जिसके पीछे सेवा शर्तों के उल्लंघन का हवाला दिया गया है। क्रिश्चियन श्रोएडर डी विट आगाह करते हैं कि अगर खरीद-फरोख्त और डील्स खोजने वाले एजेंट्स आपस में मिलीभगत कर किसी अन्य पक्ष को नुकसान पहुंचाने लगें, तो अर्थव्यवस्था के लिए नए संकट खड़े हो जाएंगे।
