आर्टिफिशियल इंटेलिजेंस की गुप्त रिसर्च को खुली चुनौती: ट्रिलियम लैब्स सार्वजनिक करेगी उन्नत एआई के प्रयोग

“The current closed trajectory of frontier AI development is taking us a step backwards.”

वर्तमान समय में दुनिया के सबसे शक्तिशाली मॉडल, जैसे कि ओपनएआई और एंथ्रोपिक द्वारा तैयार किए गए सिस्टम, आम जनता या डेवलपर्स के लिए सिर्फ एक ऐप या एप्लिकेशन प्रोग्रामिंग इंटरफेस (API) के जरिए ही उपलब्ध कराए जाते हैं। इस व्यवस्था की सबसे बड़ी कीमत पारदर्शिता खोकर चुकानी पड़ती है, जहां यह पूरी तरह रहस्य बना रहता है कि मॉडल का निर्माण किस डेटा और तरीके से किया गया है तथा वह भीतर से कैसा बर्ताव करता है।

ओपन बनाम क्लोज्ड एआई डेवलपमेंट की वैश्विक बहस

दूसरी तरफ दुनिया के कई अन्य तकनीकी केंद्र, विशेषकर चीन की टेक कंपनियां, अपेक्षाकृत मजबूत ऐसे मॉडल्स पेश कर रही हैं जिन्हें कोई भी डाउनलोड कर सकता है और यूजर के निजी हार्डवेयर पर आसानी से चलाया जा सकता है। एक प्रमुख चीनी कंपनी शाओमी ने हाल ही में अपने एक बड़े मॉडल के प्रमुख ट्रेनिंग रन का लाइव विवरण दुनिया के सामने प्रकाशित किया था। इसी तरह स्टैनफोर्ड यूनिवर्सिटी के शोधकर्ता भी मैरिन नामक अपने एआई मॉडल की प्रीट्रेनिंग खुले तौर पर यानी ओपन वातावरण में कर रहे हैं।

एआई उद्योग इस समय इस बात को लेकर कड़े वैचारिक विभाजन से जूझ रहा है कि भविष्य के लिए कौन सी रणनीति सबसे बेहतर है। इस टकराव की असली वजह फ्रंटियर मॉडल्स की अप्रत्याशित क्षमताएं हैं। आधुनिक सिस्टम सॉफ्टवेयर की सुरक्षा खामियों को खुद ब खुद तलाशने, कंप्यूटर प्रणालियों की स्वचालित पड़ताल करने और उनमें हैकिंग के जरिए घुसपैठ करने में सक्षम हो चुके हैं। हाल के समय में सामने आई कई हाई प्रोफाइल हैकिंग घटनाओं ने इस तरह के टूल्स की निगरानी और जांच को लेकर गंभीर चिंताएं पैदा कर दी हैं।

सीमित पहुंच और गोपनीयता के समर्थकों का कहना है कि इतनी बड़ी ताकत को केवल कुछ चुनिंदा और भरोसेमंद हाथों में ही सुरक्षित रखा जाना चाहिए। दूसरी तरफ लैम्बर्ट और ज़िक के नजरिए से सोचने वाले विशेषज्ञों का मानना है कि खतरों की सामूहिक और पारदर्शी समझ ही पूरी मानवता को सुरक्षित रख सकती है।

संस्थापकों का बैकग्राउंड और ट्रिलियम लैब्स की योजनाएं

नाथन लैम्बर्ट का तकनीकी अनुभव काफी व्यापक रहा है। वे पहले एआई2 (Ai2) नामक रिसर्च लैब में काम कर चुके हैं, जो एआई के निर्माण में असाधारण रूप से खुला रुख अपनाने के लिए जानी जाती है। एआई2 ने मॉडल्स के साथ-साथ उनके निर्माण में इस्तेमाल होने वाले डेटा और ट्रेनिंग विधियों के सभी विवरण सार्वजनिक किए थे। इसके अलावा लैम्बर्ट ने हगिंग फेस में काम किया है, एक लोकप्रिय टेक्निकल ब्लॉग संचालित करते हैं, और उन्होंने अमेरिकी ट्रूली ओपन मॉडल्स नामक एक पहल भी शुरू की थी जिसका मकसद अमेरिकी टेक कंपनियों को अधिक ओपन मॉडल जारी करने के लिए प्रेरित करना है। वहीं टॉम ज़िक ने हार्वर्ड यूनिवर्सिटी में कार्य किया है और चार्ल्स श्वाब को जिम्मेदार एआई से जुड़ी नीतियां तैयार करने में मदद की है।

दोनों शोधकर्ताओं की पहली मुलाकात कोविड 19 महामारी के दौरान ज़ूम कॉल के जरिए हुई थी, जब वे दोनों यूसी बर्कले में एआई पर शोध छात्र के रूप में अध्ययन कर रहे थे। इस नई गैर लाभकारी संस्था का विचार उन्हें तब आया जब उन्होंने महसूस किया कि टेक उद्योग का एआई अनुसंधान अकादमिक जगत के काम से पूरी तरह कट चुका है। बड़े कॉरपोरेट लैब्स के अंदर जो काम चल रहा होता है, कॉलेज के प्रोफेसर और छात्र भारी कम्प्यूटेशनल संसाधनों की कमी के कारण उसे अपनी प्रयोगशालाओं में दोहराने में असमर्थ रहते हैं।

पोस्ट ट्रेनिंग और रिकर्सिव सेल्फ इम्प्रूवमेंट पर शोध

ट्रिलियम लैब्स शुरुआती चरण में मुख्य रूप से पोस्ट ट्रेनिंग पर अपना ध्यान केंद्रित करेगी, जिसका अर्थ बड़े मॉडल्स के बुनियादी निर्माण के बाद उनकी फाइन ट्यूनिंग करना है। इसके साथ ही संस्थान का एक बड़ा ध्यान रिकर्सिव सेल्फ इम्प्रूवमेंट (RSI) पर होगा। यह एक ऐसी प्रक्रिया है जिसमें मौजूदा एआई मॉडल खुद ही आगे के शोध और विकास में योगदान देकर नए मॉडल्स तैयार करने में मदद करता है। वैज्ञानिक समुदाय में यह आशंका लंबे समय से है कि यदि यह सुधार प्रक्रिया बिना रुके लगातार चलती रही तो इंसानों का तकनीकी नियंत्रण पूरी तरह समाप्त हो सकता है। यह मुद्दा इस महीने की शुरुआत में तब मुख्यधारा की सुर्खियों में आया जब एंथ्रोपिक के एक शोधकर्ता ने कंपनी छोड़ते हुए चेतावनी दी थी कि आरएसआई मानवता के अस्तित्व के लिए एक बड़ा खतरा बन सकता है।

संस्थान रीइन्फोर्समेंट लर्निंग की भूमिका का भी गहराई से अध्ययन करेगा, जिसमें मॉडल को सटीक नतीजों पर रिवॉर्ड दिया जाता है और गलत व्यवहार पर दंडित किया जाता है। इसी तकनीक की मदद से ऑटोनॉमस एजेंट्स पहले से कहीं अधिक सक्षम हुए हैं, लेकिन साथ ही वे अप्रत्याशित और अनचाहे कदम उठाने की प्रवृत्ति भी दिखाने लगे हैं। शोधकर्ता यह परखेंगे कि रीइन्फोर्समेंट लर्निंग कैसे मॉडल के आंतरिक चरित्र और व्यवहार को आकार देती है, क्योंकि यह विधि तब गंभीर समस्या पैदा कर देती है जब कोई मॉडल अत्यधिक चापलूसी करने वाला या अति विनम्र बन जाता है।

कम्प्यूट लागत और भविष्य का वैज्ञानिक विजन

टॉम ज़िक ने बताया कि पोस्ट ट्रेनिंग में रीइन्फोर्समेंट लर्निंग किस तरह बड़े पैमाने पर काम करती है, इसे समझने के लिए भारी मात्रा में कम्प्यूट और बेहद सतर्क प्रयोगों की आवश्यकता होती है। उनका मानना है कि रीइन्फोर्समेंट ट्रेनिंग के विस्तृत डेटा को प्रकाशित करने से चौंकाने वाले निष्कर्ष सामने आ सकते हैं, क्योंकि पूरी दुनिया के वैज्ञानिक इस काम की बारीक समीक्षा कर सकेंगे।

ट्रिलियम लैब्स ने श्मिट साइंसेज, हैलसिओन फ्यूचर्स और अन्य समर्थकों से एक अघोषित राशि का शुरुआती फंड हासिल कर लिया है। संस्थापकों का लक्ष्य कुल 40 मिलियन डॉलर से लेकर 100 मिलियन डॉलर जुटाने का है, जिसमें से वे अगले 18 महीनों के भीतर मॉडल ट्रेनिंग पर 30 मिलियन डॉलर खर्च करने की योजना बना रहे हैं।

थिंक टैंक इंस्टीट्यूट फॉर प्रोग्रेस में इमर्जिंग टेक्नोलॉजी पॉलिसी के डायरेक्टर टिम फिस्ट ने भी इस पहल का स्वागत करते हुए कहा है कि वे रिसर्च और डेवलपमेंट में वर्तमान व्यवस्था से कहीं अधिक पारदर्शिता के भारी समर्थक हैं। आखिरकार लैम्बर्ट और ज़िक को उम्मीद है कि ट्रिलियम लैब्स एआई निर्माण की इस अहम वैश्विक बहस में अधिक संतुलन और वैज्ञानिक दृष्टिकोण लेकर आएगी। वर्तमान में यह पूरा विमर्श गिने-चुने नजरियों के इर्द-गिर्द घूम रहा है, जबकि हालिया घटनाओं का सटीक मापन और वैज्ञानिक पद्धति ही एआई के नए व्यवहारों को समझने का सबसे उपयुक्त रास्ता है।