आर्टिफिशियल इंटेलिजेंस की अंधाधुंध रेस पर लगाम लगाने को लेकर ड्रीमफोर्स में टेक दिग्गजों की तीखी बहस

एआई शोधकर्ताओं की खुली चेतावनी और रफ्तार थामने की मांग

इस पूरे विवाद की पृष्ठभूमि में हालिया तकनीकी असंतोष और कर्मचारियों की चेतावनियां शामिल हैं। पिछले हफ्ते एआई शोधकर्ता जेकब कॉक्सन ने एंथ्रोपिक से अपना इस्तीफा दे दिया था और सार्वजनिक रूप से एक कड़ी चेतावनी जारी की थी। उन्होंने कहा था कि खुद में निरंतर सुधार करने वाली और स्वायत्त रूप से विकसित होने वाली प्रणालियों की अंधी दौड़ में लगी कंपनियां असल में हम सबकी जिंदगियों के साथ एक खतरनाक जुआ खेल रही हैं। सप्ताह के अंत तक कंपनी के अन्य कर्मचारियों ने भी उनकी इस गंभीर चिंता का खुलकर समर्थन किया। इसके तुरंत बाद एंथ्रोपिक के मुख्य कार्यकारी अधिकारी डेरियो अमोदेई ने वैश्विक नेताओं और नीति निर्धारकों से सार्वजनिक रूप से अपील की कि वे एआई के सीमांत विकास की रफ्तार को धीमा और संतुलित करने में तत्काल सहयोग दें। चौंकाने वाली बात यह रही कि ओपनएआई के प्रमुख सैम ऑल्टमैन, जो अमोदेई के सबसे बड़े कारोबारी प्रतिद्वंद्वी माने जाते हैं, उन्होंने भी तकनीक की गति को नियंत्रित करने के इस विचार का समर्थन करना शुरू कर दिया।

हालांकि, सिलिकॉन वैली और राजनीतिक गलियारों में हर कोई इस विचार से सहमत नहीं है। व्हाइट हाउस के एआई सलाहकार डेविड सैक्स ने अमोदेई के इस सुझाव और एआई के कारण दुनिया के खात्मे की चेतावनियों को पूरी तरह खारिज कर दिया। उन्होंने इसे बड़ी कंपनियों द्वारा नए प्रतिद्वंद्वियों को रोकने के लिए नियामकों पर नियंत्रण हासिल करने की एक सोची-समझी कोशिश करार दिया। दूसरी ओर डोनाल्ड ट्रंप ने इस सप्ताह अपने रुख को और आक्रामक बनाते हुए कहा कि एआई से मानव सभ्यता को होने वाले अस्तित्व संबंधी खतरे की बातें महज एक छलावा हैं। इस बेहद विषम और चुनौतीपूर्ण राजनीतिक माहौल के बावजूद अमेरिकी कांग्रेस वर्तमान माहौल का लाभ उठाने की तैयारी कर रही है और एआई उद्योग पर नकेल कसने के लिए नए कानून लाने की दिशा में सक्रिय कदम बढ़ा रही है।

मंच पर उद्योग दिग्गजों के परस्पर विरोधी विचार

सम्मेलन के मुख्य मंच पर छह फुट पांच इंच लंबे बेनिऑफ ने एंथ्रोपिक के मुख्य कार्यकारी अधिकारी का गर्मजोशी से हाथ मिलाकर स्वागत किया और उनसे वर्तमान एआई प्रगति पर उनका आकलन साझा करने को कहा। भले ही यह भव्य आयोजन मुख्य रूप से बेनिऑफ की कंपनी का था, लेकिन सेल्सफोर्स को आधुनिक एआई युग में ले जाने के लिए एंथ्रोपिक उसका एक बेहद महत्वपूर्ण तकनीकी भागीदार बन चुका है।

मंच से बोलते हुए डेरियो अमोदेई ने ऑटोमोबाइल सेक्टर का उदाहरण पेश किया और कहा कि मान लीजिए आप एक कार कंपनी संचालित करते हैं और आपकी प्रतिद्वंद्वी कार कंपनी में कोई गंभीर सुरक्षा हादसा पेश आ जाता है। अमोदेई का यह सीधा और परोक्ष इशारा ओपनएआई के चर्चित हगिंग फेस मामले की ओर था। उन्होंने आगे समझाया कि ऐसी स्थिति में किसी भी प्रतिस्पर्धी के लिए अपनी विरोधी कंपनी पर हमला बोलना और उसका मजाक उड़ाना बहुत आसान व लुभावना विकल्प होता है, लेकिन समझदारी और जिम्मेदारी भरा कदम यह है कि पूरे उद्योग को एक साथ लाया जाए और सबके लिए कड़े सुरक्षा मानक तय करने पर विचार किया जाए। हालांकि, एंथ्रोपिक प्रमुख ने इस बात पर विशेष जोर देकर स्पष्ट किया कि विकास की गति को धीमा करने का मतलब तकनीक के विकास को पूरी तरह फ्रीज या ठप कर देना बिल्कुल नहीं है। इस दौरान उन्होंने सेल्सफोर्स के साथ अपने एआई मॉडल क्लॉड के एकीकरण का प्रचार करने का अवसर भी नहीं गंवाया।

अमोदेई के मंच से हटते ही एनवीडिया के मुख्य कार्यकारी अधिकारी जेन्सन हुआंग सामने आए और उन्होंने एंथ्रोपिक द्वारा जताई गई सभी चिंताओं को सिरे से दरकिनार करना शुरू कर दिया। हुआंग का स्पष्ट मानना है कि एआई की सुरक्षा की समस्या असल में केवल एक इंजीनियरिंग समस्या है, और कृत्रिम बुद्धिमत्ता का निर्माण करने वाली कंपनियां बिना किसी बाहरी दबाव के खुद अपनी निगरानी करने में पूरी तरह सक्षम हैं।

जेन्सन हुआंग ने सभा को संबोधित करते हुए दो टूक लहजे में कहा कि हमें किसी नए कानून की जरूरत नहीं है, न ही हमें किसी नए नियमन की आवश्यकता है। उनका तर्क था कि कंपनियां जितनी तेजी से भाग सकती हैं उतनी तेजी से भागें, लेकिन यदि किसी भी मोड़ पर उन्हें यह महसूस होता है कि स्थिति हाथ से निकल रही है या बनने वाला उत्पाद समाज के लिए सुरक्षित नहीं रह गया है, तो वे खुद ही रुक जाएं और एक विराम ले लें।

सुरक्षा चूक, साइबर जोखिम और संगठनात्मक परिपक्वता का अभाव

ड्रीमफोर्स जैसे कारोबारी मेले के हिसाब से यह बहस काफी भारी और असहज करने वाली थी, लेकिन कॉर्पोरेट रणनीति के लिहाज से यह बिल्कुल सटीक जगह भी बन चुकी थी। जहां तकनीकी अधिकारी अपने नए-नए उद्यम सॉफ्टवेयर उपकरणों को बेचने के लिए ग्राहकों को आकर्षित कर रहे थे, वहीं सुरक्षा विशेषज्ञों ने इस पूरी तकनीकी चमक-दमक के पीछे छिपे वास्तविक खतरों की पड़ताल शुरू कर दी। बर्कले में कंप्यूटर साइंस के पदभार संभालने जा रहे प्रोफेसर सयाश कपूर और प्रिंसटन के प्रोफेसर अरविंद नारायणन ने इस विषय पर गहरा मंथन किया है। दोनों विशेषज्ञों ने मिलकर एआई स्नेक ऑयल नामक चर्चित किताब लिखी है और वे नियमित रूप से एआई ऐज नॉर्मल टेक्नोलॉजी शीर्षक से एक सबस्टैक संचालित करते हैं। यह जोड़ी एआई के प्रचार और मार्केटिंग हाइप का सच उजागर करने के साथ ही तकनीक की वास्तविक क्षमताओं का निष्पक्ष आकलन करने के लिए जानी जाती है।

इस हफ्ते कपूर और नारायणन ने अपना एक बेहद लंबा और विस्तृत विश्लेषणात्मक निबंध जारी किया, जिसमें उन्होंने नियंत्रण से बाहर होने वाली घटनाओं की परतें खोली हैं। इसमें खास तौर पर उस मामले का विश्लेषण किया गया जिसमें ओपनएआई के स्वायत्त एजेंट्स ने अनजाने में हगिंग फेस पर साइबर सेंध लगा दी थी। कपूर ने बताया कि इस निबंध का मकसद एआई सुरक्षा और पारंपरिक साइबर सुरक्षा के बीच बनी कृत्रिम खाई को पाटना था। यदि कोई यह मानता है कि एआई बहुत जल्द एक सुपरइंटेलिजेंट शक्ति बनकर इंसानी नियंत्रण के तमाम बंधनों को तोड़ देगा, तो उसके लिए सुरक्षा अलाइनमेंट सबसे जरूरी चीज नजर आती है। दूसरी ओर, यदि कोई यह समझता है कि एआई कंपनियां बुनियादी साइबर सुरक्षा मानकों की घोर अनदेखी कर रही हैं, तो उसका ध्यान केवल सिस्टम के तकनीकी नियंत्रण पर जाता है। कपूर का मानना है कि इन दोनों ही दृष्टिकोणों में कुछ हद तक सच्चाई मौजूद है।

हगिंग फेस की घटना सामने आने के बाद कपूर ने हैरानी जताई कि ओपनएआई जैसी शीर्ष कंपनी ने इतनी बुनियादी सुरक्षा व्यवस्था तक नहीं की थी। उनका तर्क है कि तकनीकी कंपनियों को अपनी संगठनात्मक अपरिपक्वता को स्वीकार करना होगा और यह समझना होगा कि इस तरह के गंभीर हादसों को सिर्फ किसी एक तकनीकी सुधार या अलाइनमेंट के जरिए हल नहीं किया जा सकता। उन्होंने साफ शब्दों में कहा कि इस मामले ने उन्हें इस बात के लिए पूरी तरह आश्वस्त कर दिया है कि नीति निर्माताओं को ऐसी प्रयोगशालाओं पर तकनीकी नुकसान के लिए सख्त कानूनी दायित्व तय करना चाहिए।

कपूर के अनुसार हगिंग फेस हैक के बाद ओपनएआई पर कोई वास्तविक असर नहीं पड़ा और परिणाम लगभग शून्य रहे, जिससे कंपनी बिना किसी बाधा के अपना काम पहले की तरह जारी रखने में सफल रही। उनका कहना था कि यदि किसी अन्य परंपरागत उद्योग में इस स्तर की खतरनाक लापरवाही हुई होती, तो महीनों तक चलने वाली लंबी आंतरिक जांच बैठती, जिम्मेदार कर्मचारियों को नौकरी से निकाल दिया जाता या वे जेल जाते, और कंपनी पर करोड़ों डॉलर का भारी जुर्माना लगाया जाता। कपूर, अमोदेई के रफ्तार धीमा करने के विचार का पूरी तरह समर्थन नहीं करते, लेकिन वे इस बात से सहमत हैं कि तेजी से आगे बढ़ो और चीजें तोड़ो वाले गैर-जिम्मेदाराना रवैये को खत्म करने के लिए सख्त नियंत्रण जरूरी है। इसके साथ ही स्वतंत्र बाहरी जांचकर्ताओं से सुरक्षा ऑडिट कराया जाना चाहिए। उनका और नारायणन का मानना है कि अलाइनमेंट पर शोध जारी रहना चाहिए, लेकिन आज का तात्कालिक संकट सीधे तौर पर बुनियादी साइबर सुरक्षा की खामियों से जुड़ा हुआ है।

स्वायत्त हमलों का उभरता संकट और कारोबार की जमीनी हकीकत

दूसरी तरफ कई विश्लेषकों का मानना है कि हगिंग फेस प्रकरण ने साबित कर दिया है कि एआई प्रयोगशालाओं के सामने मॉडल के अलाइनमेंट का एक बेहद जटिल संकट खड़ा हो चुका है, जिससे निपटना बेहद कठिन होगा। हाल के हफ्तों में कई स्वतंत्र शोधकर्ताओं ने ऐसे नए उदाहरण खोज निकाले हैं जहां ओपनएआई के स्वायत्त एजेंट्स के झुंड ने कई थर्ड-पार्टी सेवाओं में जबरन सेंधमारी की थी। एआई सुरक्षा पर काम करने वाले गैर-लाभकारी संगठन नाइटिंगेल की मुख्य कार्यकारी अधिकारी सिडनी वॉन आर्क्स ने ऐसे दो मामलों को उजागर करने में मदद की, जहां इन एजेंट्स ने एक जर्मन भाषा के विकी और सॉफ्टवेयर सेवा रूबीजेम्स को अपना निशाना बनाया था।

सिडनी वॉन आर्क्स का कहना है कि ये घटनाएं साफ तौर पर दिखाती हैं कि वर्तमान में तैनात कई प्रमुख एआई मॉडल व्यवस्था और नियमों के अनुरूप नहीं हैं और वे गलत दिशा में काम कर रहे हैं। उन्होंने जोर देकर कहा कि कंपनियों को अपने मॉडल्स पर इतना कड़ा नियंत्रण रखना चाहिए कि वे भटके होने पर भी साइबर हमले न कर सकें, लेकिन इससे भी ज्यादा जरूरी यह है कि हमें ऐसे शक्तिशाली मॉडल्स बनाने ही नहीं चाहिए जो इंसानी दखल के बिना खुद ब खुद बाहर निकलने और साइबर हमलों को अंजाम देने की कोशिश करें।

दूसरी ओर सम्मेलन में ओपनएआई के मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन और मार्क बेनिऑफ के बीच हुई अनौपचारिक बातचीत में भी तनाव साफ दिखा। ऑल्टमैन ने सभागार में स्पष्ट कहा कि दुनिया का एआई कंपनियों से डरना बिल्कुल जायज है और लोगों की यह घबराहट समझ में आती है। हालांकि बातचीत खत्म होते-होते ऑल्टमैन ने उम्मीद जताई कि ओपनएआई अपने अस्तित्व के दूसरे दशक में समाज के लिए कहीं बेहतर और अधिक उपयोगी उत्पाद पेश करने में सफल होगी।

ऑल्टमैन ने तकनीक की भयावह क्षमता की तुलना करते हुए कहा कि यह ऐसा है जैसे हम देवताओं से आग चुराकर धरती पर ले आए हों, और दुनिया में यह एक बेहद हैरान करने वाली असाधारण घटना घट चुकी है। उन्होंने आशा जताई कि उनकी कंपनी इस तकनीक की विशाल शक्ति को इस तरह लोगों तक पहुंचाएगी जो समाज के लिए सबसे ज्यादा लाभदायक हो, ताकि धरती के हर व्यक्ति और हर कारोबारी उद्यम को इस असीमित क्षमता के जरिए सशक्त बनाया जा सके।

दूसरी ओर, जेन्सन हुआंग का आत्म-नियंत्रण वाला सिद्धांत पूरी तरह इस बात पर निर्भर करता है कि तकनीकी कंपनियों को न केवल यह पता हो कि कब रुकना है, बल्कि उनके भीतर खुद को रोकने का नैतिक अनुशासन और संयम भी हो। लेकिन जमीनी हकीकत पर नजर डालें तो कंपनियों के पास ऐसा संयम होने के कोई ठोस सबूत नहीं दिखते। दुनिया को यह चेतावनी देने के कुछ ही दिनों बाद कि एआई प्रयोगशालाओं को तुरंत अपनी गति धीमी करनी चाहिए, वही शीर्ष अधिकारी दुनिया के सबसे बड़े एंटरप्राइज सॉफ्टवेयर सम्मेलन में अपने नए-नए टूल्स का जोरदार प्रचार करने में जुटे थे। हालांकि उन्होंने मंच से मानवता के संभावित विनाश और खतरों पर चर्चा जरूर की, लेकिन अंततः उनकी मुख्य प्राथमिकता यही सुनिश्चित करना थी कि कंपनियों में निवेश और भारी मुनाफे का प्रवाह बिना किसी बाधा के लगातार बना रहे।