आर्टिफिशियल इंटेलिजेंस की अनियंत्रित रफ्तार रोकने के लिए हार्डवेयर ट्रैकिंग और कड़े ऑडिट की तैयारी

अस्तित्व के संकट पर शीर्ष नेतृत्व की साझा चिंता

हाल के दिनों में तकनीकी जगत के भीतर से आई चेतावनियों ने इस विमर्श को चरम सीमा पर पहुंचा दिया है। एंथ्रोपिक के एक शोधकर्ता ने अपनी कंपनी से इस्तीफा देते हुए सचेत किया कि अगले दो वर्षों के भीतर ऐसी एआई प्रणाली सामने आ सकती है जो इंसानी वजूद को मिटाने में सक्षम हो। इस चेतावनी का समर्थन कंपनी की आंतरिक सुरक्षा प्रयोगशाला के प्रमुख ने भी तुरंत किया। इसके बाद पूरे सिलिकॉन वैली में हड़कंप मच गया और इस मुद्दे पर गंभीर मंथन शुरू हुआ।

चौंकाने वाली बात यह है कि दुनिया की सबसे बड़ी तकनीकी कंपनियों के प्रमुख अब एक सुर में इस गति को धीमा करने के पक्ष में बयान दे रहे हैं। एंथ्रोपिक के डारियो अमोदेई, ओपनएआई के सैम ऑल्टमैन, स्पेसएक्सएआई के एलन मस्क और गूगल डीपमाइंड के डेमिस हसाबिस ने किसी न किसी रूप में इस विकास यात्रा को अस्थायी रूप से थामने या धीमा करने की वकालत की है। उद्योग जगत के शीर्ष कर्णधारों का यह रुख दर्शाता है कि स्थिति कितनी संवेदनशील हो चुकी है।

इस बेचैनी की सबसे बड़ी वजह रिकर्सिव सेल्फ-इम्प्रूवमेंट यानी आरएसआई का चक्र है। मौजूदा दौर में तकनीकी कंपनियां नए और अधिक शक्तिशाली मॉडल्स को डिजाइन करने के लिए मौजूदा एआई का ही बड़े पैमाने पर इस्तेमाल कर रही हैं। यह ऑटोमेशन एक ऐसा तेज लूप बना रहा है जिसमें सिस्टम खुद को लगातार अपग्रेड करता जाता है। वैज्ञानिकों को डर है कि यह प्रक्रिया इंसानों की निगरानी और समझने की क्षमता को बहुत पीछे छोड़ देगी, जिसके बाद मॉडल्स के फैसलों पर किसी का जोर नहीं रहेगा।

प्रयोगशालाओं ने आंतरिक रूप से इस स्थिति की पड़ताल शुरू की है। हालिया आंकड़ों के मुताबिक, एंथ्रोपिक के भीतर एआई से जुड़े 26 प्रतिशत शोध कार्य अब क्लॉड मॉडल द्वारा किए जा रहे हैं, जबकि वर्ष 2026 की शुरुआत में यह आंकड़ा शून्य प्रतिशत था। इसके अतिरिक्त, कंपनी ने अपने कुल कंप्यूट बजट का केवल 6 प्रतिशत हिस्सा सुरक्षा अनुसंधान पर खर्च किया है। बाहरी जानकारों का कहना है कि यह संतुलन बेहद असंतोषजनक है और कंपनियों के आंतरिक प्रयासों पर पूरी तरह निर्भर नहीं रहा जा सकता।

स्वतंत्र मूल्यांकन और सुरक्षा घेरे की चुनौतियां

विकास की रफ्तार को सुरक्षित दायरे में रखने के लिए तीसरा पक्ष ऑडिटिंग को एक प्राथमिक समाधान माना जा रहा है। इसका उद्देश्य बाहरी विशेषज्ञों को मॉडल्स की क्षमताओं की जांच करने और सुरक्षित वातावरण में रेड टीमिंग करने की अनुमति देना है, ताकि मॉडल के दुर्भावनापूर्ण या अप्रत्याशित व्यवहार को पकड़ा जा सके। यूके एआई सिक्योरिटी इंस्टीट्यूट के पूर्व मुख्य वैज्ञानिक और गूगल डीपमाइंड के पूर्व शोधकर्ता जेफ्री इरविंग का मानना है कि तात्कालिक तौर पर निरीक्षण और कंपनियों के बीच आपसी समझौते एक कारगर ठहराव ला सकते हैं। इरविंग के अनुसार, कंपनियां खुद अनियंत्रित विकास और दिशाहीन टेकऑफ के खतरों को लेकर डरी हुई हैं।

दूसरी तरफ, मौजूदा ऑडिट व्यवस्था की निष्पक्षता पर गंभीर सवाल भी उठ रहे हैं। टेस्टिंग के दौरान कुछ एआई एजेंट्स द्वारा सुरक्षा घेरे को तोड़कर बाहर निकलने की घटनाओं ने नियामक तंत्र की कमजोरियों को उजागर किया है। कंट्रोल एआई नामक गैर-लाभकारी संस्था के प्रमुख कॉनर लेही का तर्क है कि निरीक्षण प्रक्रिया में एफबीआई या एनएसए जैसी राष्ट्रीय सुरक्षा एजेंसियों को शामिल किया जाना चाहिए। लेही का आरोप है कि बड़ी कंपनियों के तथाकथित स्वतंत्र मूल्यांकन केवल उनके करीबी परिचितों तक सीमित रहते हैं, जिसे किसी भी दृष्टि से तटस्थ वैज्ञानिक जांच नहीं कहा जा सकता।

डगलस का कहना है कि आगामी अनुसंधान के जरिए बिना किसी गोपनीय व्यावसायिक जानकारी को सार्वजनिक किए मॉडल्स के उपयोग की बाहरी जांच संभव बनाई जा सकती है। सिस्टम के आंतरिक कामकाज को गहराई से देखने वाली नई तकनीकें इसमें मददगार साबित हो सकती हैं। लेही भी मानते हैं कि मानव मूल्यों के साथ एआई को अलाइन करने और मूल्यांकन के वैज्ञानिक आधार को समझने के लिए अभी बहुत बुनियादी काम बाकी है, क्योंकि इन एल्गोरिदम के वास्तविक संचालन को पूरी तरह समझना अब भी एक पहेली है।

कच्चे कंप्यूट और चिप्स पर पहरा

सॉफ्टवेयर स्तर पर निगरानी के अलावा विशेषज्ञों का एक बड़ा वर्ग हार्डवेयर संसाधनों पर लगाम कसने को सबसे व्यावहारिक रास्ता मानता है। दुनिया के सबसे जटिल मॉडल्स को विशाल डेटा सेंटरों में लगे एनवीडिया के हजारों अत्याधुनिक जीपीयू की मदद से प्रशिक्षित किया जाता है। अमेरिका में 2023 के बाइडन युग के एग्जीक्यूटिव ऑर्डर के जरिए तय कंप्यूट सीमा से ऊपर के प्रशिक्षण सत्रों की जानकारी सरकार को देना अनिवार्य किया गया था। यद्यपि राष्ट्रपति ट्रंप ने उद्योग के व्यापक नियमन को काफी हद तक खारिज किया है, फिर भी द्विदलीय समर्थन के संकेत मिल रहे हैं कि इस क्षेत्र पर कुछ सीमाएं तय की जानी चाहिए।

मार्च 2024 के एक नीतिगत श्वेत पत्र में रेखांकित किया गया था कि क्लाउड सेवा प्रदाता इस दिशा में एक अहम भूमिका निभा सकते हैं। डेटा सेंटरों के बिजली उपयोग, जीपीयू की सक्रियता, नेटवर्क ट्रैफिक और बिलिंग रिकॉर्ड्स पर नजर रखकर यह आसानी से पता लगाया जा सकता है कि कहीं कोई अनधिकृत या अत्यधिक शक्तिशाली मॉडल तो तैयार नहीं किया जा रहा।

हार्डवेयर स्तर पर नियंत्रण के लिए कई तकनीकी प्रस्ताव सामने आए हैं

• क्रिप्टोग्राफिक ऑडिटिंग: वर्ष 2024 में रैंड के शोधकर्ताओं ने प्रस्ताव रखा कि जीपीयू में परफॉर्मेंस नापने वाले मौजूदा उपकरणों में बदलाव कर एक सुरक्षित क्रिप्टोग्राफिक रिकॉर्ड तैयार किया जाए। इस व्यवस्था से नियमित जांच के दौरान यह तुरंत उजागर हो जाएगा कि किसी कंपनी ने तय सीमा से ज्यादा कंप्यूट क्षमता का उपयोग किया है या नहीं।
• टैम्पर-प्रूफ पुर्जे: कुछ विशेषज्ञों का सुझाव है कि सिलिकॉन चिप्स के भीतर ऐसे छेड़छाड़-रोधी पुर्जे लगाए जाएं जो इस्तेमाल का विस्तृत ब्योरा जुटाएं और क्रिप्टोग्राफी के जरिए चुनिंदा मॉडल्स के वेट्स को चलाने के लिए अनिवार्य हों।
• रिमोट किल स्विच: सबसे आक्रामक प्रस्ताव चिप्स के भीतर अंतर्निहित ऑफ स्विच लगाने का है। इसके तहत किसी विशेष मॉडल को चलाने के लिए दूरस्थ क्रिप्टोग्राफिक अनुमति की आवश्यकता होगी। यदि उपकरण गलत हाथों में पड़ जाएं या तय नियमों का उल्लंघन हो, तो इन्हें दूर बैठकर निष्क्रिय किया जा सकेगा।

अंतरराष्ट्रीय संधियां और भविष्य की दिशा

दुनिया भर के जानकारों का मानना है कि कोई भी घरेलू नियम तब तक प्रभावी नहीं हो सकता जब तक वैश्विक स्तर पर आम सहमति न बने। चीन के पास फ्रंटियर मॉडल बनाने की पूरी क्षमता मौजूद है, इसलिए द्विपक्षीय सहयोग अनिवार्य हो जाता है। जेफ्री इरविंग का मानना है कि मध्यम अवधि में सबसे सीधा रास्ता एक अंतरराष्ट्रीय संधि के जरिए दोनों देशों द्वारा हार्डवेयर की वृद्धि को परस्पर धीमा करना है। अमेरिका द्वारा एनवीडिया के शक्तिशाली चिप्स के निर्यात पर लगाए गए प्रतिबंधों को विदेशी क्लाउड कंप्यूटिंग के जरिए बाईपास किए जाने से यह स्पष्ट हो गया है कि केवल व्यापारिक पाबंदियां पर्याप्त नहीं हैं।

इस महीने के अंत में राष्ट्रपति शी की संभावित अमेरिका यात्रा के दौरान इन जोखिमों पर बातचीत होने की संभावना है। चीनी विशेषज्ञ भी सुरक्षा खतरों को लेकर सतर्क हैं, लेकिन वे ऐसे किसी एकतरफा समझौते को स्वीकार करने से हिचकिचा रहे हैं जो उनकी घरेलू कंपनियों को अमेरिकी प्रतिस्पर्धियों की तुलना में कमजोर स्थिति में ला खड़ा करे। इस विषय पर कुछ बेहद कड़े विचार भी सामने आए हैं। ऑक्सफोर्ड यूनिवर्सिटी के दार्शनिक टोबी ऑर्ड ने विचार रखा था कि यदि अस्तित्वगत खतरा बहुत बढ़ जाए और राष्ट्र सहमत हों, तो प्रमुख देश अपने जीपीयू को किसी तटस्थ स्थान पर ले जाकर पूरी तरह नष्ट कर सकते हैं, जिससे दोनों पक्ष विकास को पूरी तरह बंद कर सकें।

तकनीकी विकास को मापने के लिए नए साधन भी गढ़े जा रहे हैं। वाल्स एआई नामक स्टार्टअप द्वारा विकसित आरएसआई इंडेक्स सार्वजनिक मॉडल्स की क्षमताओं की तुलना मानव वैज्ञानिकों के शोध पत्रों से करता है। वाल्स एआई के सह-संस्थापक और सीईओ रयान कृष्णन के अनुसार, यह इंडेक्स संकेत दे रहा है कि अगले एक वर्ष के भीतर मशीनें ऐसे जटिल शोध कार्य करने लगेंगी जिन्हें समझना इंसानी शोधकर्ताओं के बस में नहीं होगा।

डगलस और उनके सहयोगियों की रिपोर्ट आगाह करती है कि बिना सोचे-समझे उठाए गए कदमों से पूरी प्रक्रिया राजनीति और नियामकीय मिलीभगत की शिकार हो सकती है। सरकार द्वारा पूरी तकनीक को अचानक बंद करवा देना विनाशकारी हो सकता है, क्योंकि जल्दबाजी में बनाई गई दोषपूर्ण योजना किसी भी व्यवस्था के न होने से भी बदतर साबित हो सकती है।