एंथ्रोपिक ने खुद को बेहतर बनाने वाले एआई को लेकर किया बड़ा खुलासा, आरएसआई सीमा के बेहद करीब पहुंचने की दी चेतावनी

आर्टिफिशियल इंटेलिजेंस कंपनी एंथ्रोपिक ने अपनी संशोधित एस-1ए रेगुलेटरी फाइलिंग में स्वीकार किया है कि वह रिकर्सिव सेल्फ-इम्प्रूवमेंट के बेहद करीब पहुंच रही है। कंपनी का कहना है कि भविष्य के मॉडल इंसानी सुरक्षा उपायों की तुलना में तेजी से विकसित हो सकते हैं।

आर्टिफिशियल इंटेलिजेंस रिसर्च लैब एंथ्रोपिक ने अमेरिकी प्रतिभूति एवं विनिमय आयोग के पास जमा अपनी संशोधित एस-1ए फाइलिंग में तकनीकी जगत को चौंकाने वाला खुलासा किया है। हालांकि सार्वजनिक बाजार की नजर मुख्य रूप से कंपनी के बढ़ते राजस्व और तेजी से चढ़ते खर्चों के वित्तीय आंकड़ों पर टिकी थी, लेकिन इसी कानूनी दस्तावेज के जोखिम विवरण में एंथ्रोपिक ने एक अत्यंत संवेदनशील चेतावनी शामिल की है। कंपनी का कहना है कि वह ऐसे मॉडल के निर्माण की दहलीज पर खड़ी है जो रिकर्सिव सेल्फ-इम्प्रूवमेंट यानी आरएसआई हासिल करने में सक्षम हो सकता है। यह तकनीक कृत्रिम बुद्धिमत्ता को खुद अपने ही अगले और अधिक उन्नत संस्करण को स्वायत्त रूप से प्रशिक्षित करने की शक्ति प्रदान करती है।

आरएसआई क्या है और इसे लेकर दुनिया में बहस क्यों छिड़ी है
रिकर्सिव सेल्फ-इम्प्रूवमेंट उस वैज्ञानिक पड़ाव को संदर्भित करता है जहां कोई एआई सिस्टम खुद को परिष्कृत और प्रशिक्षित करने में इतना सक्षम हो जाता है कि नई क्षमताओं के विकास की गति कई गुना बढ़ जाती है। तकनीकी विश्लेषकों का एक वर्ग इसे अत्यधिक खतरनाक मानता है। इस नजरिए के मुताबिक, जब मशीनें खुद को बेहतर बनाने लगती हैं, तो वे इंसानी नियंत्रण के दायरे से बाहर फिसल सकती हैं और अपने पूर्वनिर्धारित लक्ष्यों को पूरा करने के दौरान होने वाले नुकसान के प्रति पूरी तरह बेपरवाह हो सकती हैं।

इसके विपरीत, प्रौद्योगिकी के समर्थक आरएसआई को एक अद्वितीय अवसर के रूप में देखते हैं। उनका मानना है कि यदि मशीनें अपनी क्षमताओं को लगातार बढ़ाने में सफल रहीं, तो इससे वैज्ञानिक अनुसंधान, डेटा विश्लेषण और उत्पादकता के ऐसे रास्ते खुलेंगे जिनकी आज कल्पना करना भी कठिन है। एंथ्रोपिक इस दोधारी तलवार के दोनों पहलुओं को स्वीकार करती है और उसने साफ किया है कि खुद को तेजी से अपग्रेड करने वाली तकनीक जितने अवसर पैदा करती है, उतनी ही बड़ी सुरक्षा चुनौतियां भी खड़ी करती है।

अनुसंधान एवं विकास में एआई का उपयोग और अनजाने में हुई प्रगति
एंथ्रोपिक ने अपनी फाइलिंग के रिस्क फैक्टर्स अनुभाग में खुलासा किया है कि वह अपने दैनिक अनुसंधान एवं विकास कार्यों में एआई का बड़े पैमाने पर इस्तेमाल कर रही है। दस्तावेज में चेतावनी दी गई है कि एआई की मदद से अधिक सक्षम एआई तैयार करना गंभीर सुरक्षा जोखिम पैदा कर सकता है, विशेषकर तब जब यह नवाचार की गति को असामान्य रूप से तेज कर दे। कंपनी की रिस्पॉन्सिबल स्केलिंग पॉलिसी में इस बात की निगरानी और नियंत्रण के नियम तय किए गए हैं ताकि आरएसआई की दिशा में बढ़ते कदमों को समय रहते संभाला जा सके।

फाइलिंग के अनुसार, अतीत में ऐसे वाकये सामने आए हैं जब कंपनी ने अपने नए मॉडल्स को तैयार करने के लिए मौजूदा एआई सिस्टम का सहारा लिया, लेकिन उन नए मॉडलों में आए अप्रत्याशित क्षमता विस्तार को तत्काल पहचाना नहीं जा सका। आंतरिक आकलन यह भी रेखांकित करते हैं कि रिसर्च प्रक्रिया में बढ़ती तेजी कंपनी की सुरक्षा, अलाइनमेंट और सत्यापन उपायों को लागू करने की गति से कहीं आगे निकल सकती है। इस स्थिति के चलते अप्रत्याशित छलांग लगने के बाद ही उसके प्रभाव का पता चल पाता है।

रिस्पॉन्सिबल स्केलिंग पॉलिसी और इंसानी नियंत्रण की गारंटी
कंपनी के आंतरिक अनुमान और भावी मॉडल्स को लेकर की गई समीक्षाएं दर्शाती हैं कि एंथ्रोपिक जल्द ही अपनी रिस्पॉन्सिबल स्केलिंग पॉलिसी में तय की गई उस सीमा को छू सकती है जिसे एआई के कारण नाटकीय रूप से तेज हुई प्रगति कहा गया है। हालांकि कंपनी ने यह भी स्पष्ट किया है कि उसके मौजूदा किसी भी मॉडल ने अभी तक इस निर्धारित दहलीज को पार नहीं किया है और डेटा का गहन मूल्यांकन लगातार जारी है।

सुरक्षा चिंताओं को दूर करते हुए एंथ्रोपिक ने भरोसा दिलाया है कि निकट भविष्य में इंसानों को अनुसंधान प्रक्रिया के केंद्र में ही रखा जाएगा। कंपनी के अनुसार, वह बिना सार्थक मानवीय निगरानी या समझ के क्लॉड को पूरी तरह से स्वायत्त रूप से अगली पीढ़ी के फ्रंटियर मॉडल डिजाइन और तैयार करने की अनुमति नहीं देगी, भले ही तकनीकी रूप से ऐसा करना संभव क्यों न हो जाए। इसके मद्देनजर फ्रंटियर मॉडल्स के विकास पर इंसानों की अंतिम पकड़ बनाए रखने के लिए रिस्पॉन्सिबल स्केलिंग पॉलिसी में नए संशोधनों पर विचार किया जा रहा है।

संदेह के घेरे में दावे और कोडिंग-गणित में क्लॉड का दबदबा
बाजार के कुछ समीक्षक इस बात पर संदेह भी जताते हैं कि नियामक फाइलिंग केवल जोखिमों का खुलासा नहीं होती, बल्कि उसका इस्तेमाल विपणन और प्रचार के साधन के तौर पर भी किया जाता है। किसी कंपनी द्वारा खुद को दुनिया बदलने वाली तकनीक के इतने करीब बताना निवेशकों का ध्यान खींचने की रणनीति भी हो सकती है।

इसके बावजूद, इस तथ्य से इनकार नहीं किया जा सकता कि क्लॉड ने कोडिंग, गणितीय गणनाओं और साइबर सुरक्षा के मोर्चे पर असाधारण प्रगति हासिल की है। जब एक प्रमुख एआई प्रयोगशाला आधिकारिक कानूनी दस्तावेजों में यह दर्ज करती है कि आरएसआई वास्तविकता बनने के करीब है, तो यह वैश्विक नियामकों और नीति निर्माताओं के लिए एक चेतावनी की तरह सामने आता है कि वे सुरक्षा मानकों और शासन प्रणालियों को समय रहते पुख्ता करें।

इसका आप पर असर
एंथ्रोपिक का यह आधिकारिक खुलासा दर्शाता है कि एआई सॉफ्टवेयर जल्द ही इंसानी मदद के बिना खुद को अपग्रेड करने में सक्षम हो सकता है, जिससे तकनीकी विकास की गति अप्रत्याशित हो जाएगी।

• आम उपयोगकर्ताओं पर प्रभाव: कोडिंग और डेटा विश्लेषण जैसे जटिल कार्यों में एआई उपकरणों की कार्यक्षमता पहले से कहीं अधिक तेज होगी। हालांकि अत्यधिक शक्तिशाली स्वायत्त मॉडलों के अनियंत्रित प्रसार से डिजिटल सुरक्षा और साइबर जोखिम भी बढ़ सकते हैं।
• वैश्विक नियामकों की भूमिका: अंतरराष्ट्रीय सरकारों और नीति निर्माताओं पर एआई प्रयोगशालाओं के लिए कड़े नियम बनाने का दबाव बढ़ेगा। आने वाले महीनों में फ्रंटियर एआई मॉडलों के प्रशिक्षण और स्वायत्तता पर कानूनी बंदिशें तय की जा सकती हैं।
• डेवलपर्स और तकनीकी विशेषज्ञों के लिए: सॉफ्टवेयर निर्माण और मॉडल ट्रेनिंग की पारंपरिक प्रक्रियाओं में बड़ा बदलाव देखने को मिलेगा। कंपनियों को एआई सिस्टम की स्वायत्त गतिविधियों पर निगरानी रखने के लिए मानवीय समीक्षा को अनिवार्य करना होगा।
• डिजिटल सुरक्षा और गोपनीयता: स्वायत्त रूप से विकसित होने वाले सिस्टम में बग या सुरक्षा खामियों की पहचान करना इंसानों के लिए कठिन हो सकता है। उपयोगकर्ताओं को महत्वपूर्ण प्रणालियों में स्वचालित एआई पर निर्भरता को लेकर अधिक सतर्क रहना होगा।

ऐसा क्यों हुआ
एंथ्रोपिक द्वारा यह चेतावनी इसलिए जारी की गई है क्योंकि उसने अपनी नवीनतम एस-1ए रेगुलेटरी फाइलिंग में कानूनी और सुरक्षा मानकों के तहत उन जोखिमों का खुलासा किया है जो उसके भावी मॉडलों से जुड़े हैं।

• अनुसंधान में एआई का बढ़ता दखल: एंथ्रोपिक अपनी नई तकनीकों और मॉडलों को डिजाइन करने के लिए मौजूदा एआई सिस्टम का सक्रिय उपयोग कर रही है। इस प्रक्रिया के कारण नए मॉडलों की क्षमताओं में ऐसी छलांगें लगी हैं जिन्हें शुरू में इंसान पहचान भी नहीं पाए थे।
• आरएसआई की दहलीज के करीब पहुंचना: कंपनी के आंतरिक डेटा और आगामी मॉडलों के अनुमान यह संकेत दे रहे हैं कि वे जल्द ही उस सीमा पर पहुंच सकते हैं जहां एआई की प्रगति अभूतपूर्व तेजी से होने लगेगी। कानूनी जवाबदेही से बचने के लिए कंपनी को इस संभावित स्थिति को जोखिम के तौर पर दर्ज करना जरूरी था।
• संभावित सुरक्षा असंतुलन: मॉडल की क्षमताओं में होने वाली तेज वृद्धि की तुलना में सुरक्षा और अलाइनमेंट तकनीकों का विकास धीमा रह सकता है। एंथ्रोपिक ने यह सुनिश्चित करने के लिए कदम उठाया है कि तकनीकी रूप से संभव होने के बावजूद इंसानी निगरानी को कभी हटाया न जाए।

सवाल-जवाब

1. एंथ्रोपिक ने अपनी संशोधित फाइलिंग में क्या चेतावनी दी है?
कंपनी ने चेतावनी दी है कि वह रिकर्सिव सेल्फ-इम्प्रूवमेंट यानी आरएसआई के बेहद करीब पहुंच रही है, जहां एआई मॉडल खुद को बेहतर बनाने में सक्षम हो सकते हैं।

2. आरएसआई का सरल शब्दों में क्या अर्थ है?
आरएसआई वह स्थिति है जब एआई सिस्टम खुद को प्रशिक्षित करने में इतना माहिर हो जाता है कि नई क्षमताओं के विकास की रफ्तार बहुत तेज हो जाती है।

3. क्या एंथ्रोपिक का कोई मौजूदा मॉडल इस दहलीज को पार कर चुका है?
नहीं, फाइलिंग के मुताबिक वर्तमान में किसी भी मॉडल ने इस सीमा को पार नहीं किया है, लेकिन भविष्य के मॉडल्स को लेकर यह संभावना जताई गई है।

4. एंथ्रोपिक ने अनुसंधान में मानवीय नियंत्रण को लेकर क्या वादा किया है?
कंपनी ने स्पष्ट किया है कि वह बिना मानवीय समझ और निगरानी के क्लॉड को स्वायत्त रूप से नए मॉडल बनाने की अनुमति नहीं देगी।

https://trendkia.com/ai/anthropic-ne-khuda-ko-behatara-banane-vale-ai-ko-lekara-kiya-bara-khulasa-rsi-sima-ke-behada-kariba-pahunchane-ki-di-chetavani-55323
TrendKia — Har trend, sabse pehle.