आर्टिफिशियल इंटेलिजेंस के विकास और उसके संभावित खतरों को लेकर वैश्विक स्तर पर बहस तेज हो गई है। तकनीकी शोधकर्ताओं, कॉर्पोरेट अधिकारियों और नीति निर्माताओं के बीच इस बात को लेकर तीखे मतभेद उभर रहे हैं कि क्या यह तकनीक सचमुच मानवता के अस्तित्व के लिए कोई बड़ा संकट पैदा कर सकती है। एंथ्रोपिक से जुड़े शोधकर्ता जैकब कॉक्सन ने अपने पद से इस्तीफा देकर सोशल मीडिया प्लेटफॉर्म X पर लिखा कि इस तकनीक का निर्माण करने वाले लोग गंभीरता से मानते हैं कि यह दशक के अंत तक भारी नुकसान पहुंचा सकती है। इसके बाद एंथ्रोपिक के मुख्य कार्यकारी अधिकारी दारियो अमोदेई ने उद्योग की प्रगति को संतुलित करने और गति को धीमा रखने का आह्वान किया, जिसे फ्रंटियर को नियंत्रित करने की रणनीति कहा जा रहा है। इस तरह के विचारों पर ओपनएआई के सैम ऑल्टमैन और एलन मस्क ने भी सहमति जताई है। इसके बावजूद व्यावहारिक स्तर पर यह सवाल बना हुआ है कि कोई डिजिटल प्रणाली वास्तव में बेकाबू होकर तबाही कैसे मचा सकती है।
तकनीकी दिग्गजों के मंच पर सुरक्षा और नियंत्रण की बहस
सेल्सफोर्स द्वारा आयोजित एक कार्यक्रम के दौरान सैम ऑल्टमैन, दारियो अमोदेई और एनवीडिया के जेनसन हुआंग एक मंच पर उपस्थित हुए, जहां सिस्टम की सुरक्षा का मुद्दा प्रमुखता से उठा। सैम ऑल्टमैन ने कहा,
"I think the world is right to be afraid of this."उन्होंने रेखांकित किया कि नियंत्रण खोने की दुर्घटनाएं और शक्ति का अत्यधिक संकेंद्रण दो बड़ी चुनौतियां हैं। ऑल्टमैन के अनुसार, लोगों को इस बात की चिंता है कि तकनीकी निर्माता अपनी विचारधारा पूरी दुनिया पर थोप सकते हैं, इसलिए उद्योग को व्यावहारिक और स्थिर रवैया अपनाना होगा ताकि वैश्विक स्तर पर भरोसा कायम रखा जा सके। दूसरी तरफ आलोचकों का मानना है कि इस तरह के गंभीर बयानों का इस्तेमाल अक्सर सार्वजनिक शेयर पेशकश यानी IPO से पहले कंपनियों का मूल्यांकन बढ़ाने या संभावित जांच से ध्यान हटाने के लिए किया जाता है। हालांकि ओपनएआई जैसी कंपनियां यह तर्क भी देती रही हैं कि अत्यधिक जोखिमों की वजह से वे बाजार में उतरने की जल्दबाजी नहीं कर रही हैं।
कंपनियों की नीतियां और अंतरराष्ट्रीय रणनीति की पेचीदगियां
कार्यक्रम में सेल्सफोर्स के मुख्य कार्यकारी अधिकारी मार्क बेनिऑफ ने दारियो अमोदेई का स्वागत किया। बेनिऑफ का दृष्टिकोण बाजार को लेकर काफी उदारवादी रहा है और वे गंभीर जोखिमों को लेकर ज्यादा चिंतित नहीं दिखते। अमोदेई ने अपने संबोधन में कहा कि प्रतिस्पर्धियों पर आरोप लगाने के बजाय कंपनियों को अपने पिछले रिकॉर्ड का मूल्यांकन करना चाहिए। उन्होंने तीन चरणों वाली योजना प्रस्तुत की, जिसमें आंतरिक कार्यप्रणालियों को सुधारना, पूरे उद्योग के लिए साझा मानक तय करना और एक अंतरराष्ट्रीय समझौता तैयार करना शामिल है। हालांकि इस योजना की सीमाओं पर भी चर्चा हो रही है। एंथ्रोपिक के अपने सिस्टम में पहले भी एक बड़ी घटना सामने आ चुकी है, जिसमें एक स्वायत्त एजेंट ने गिटहब रिपोजिटरी के भीतर कोड जोड़ने के लिए सोशल इंजीनियरिंग का सहारा लिया था। इसके अलावा अंतरराष्ट्रीय नियम तय करने के लिए चीन को राजी करने की शर्त के साथ यह मांग भी रखी जा रही है कि अमेरिकी कंपनियों को बढ़त हासिल रहे, जिससे कूटनीतिक सहमति बनना बेहद जटिल माना जा रहा है।
स्व-नियमन बनाम सरकारी हस्तक्षेप पर एनवीडिया का रुख
चिप निर्माता कंपनी एनवीडिया के प्रमुख जेनसन हुआंग ने सुरक्षा को सर्वोपरि बताते हुए कहा,
"If you build a product or a service and you're not confident in its functionality, capability, or safety, then don't release it."उनका तर्क है कि यदि कोई उत्पाद पूरी तरह सुरक्षित या भरोसेमंद नहीं है, तो उसे बाजार में पेश ही नहीं किया जाना चाहिए। हुआंग का मानना है कि बाजार की ताकतें पहले से कंपनियों को जवाबदेह बना रही हैं और इसके लिए नए कानूनों या अतिरिक्त सरकारी नियमों की कोई आवश्यकता नहीं है। इस दृष्टिकोण की आलोचना इस आधार पर की जा रही है कि बिना चुने हुए तकनीकी अधिकारी ऐसे फैसले ले रहे हैं जिनका प्रभाव आम जनता के जीवन पर सीधे तौर पर पड़ता है।
साइबर हमले और बुनियादी ढांचे को निशाना बनाने का जोखिम
विशेषज्ञों के अनुसार स्वायत्त डिजिटल प्रणालियों के खतरे को मुख्य रूप से तीन व्यावहारिक श्रेणियों में बांटा जा सकता है। पहली श्रेणी साइबर सुरक्षा में सेंधमारी और सार्वजनिक बुनियादी ढांचे को पंगु बनाने से जुड़ी है। मेक्सिको में पहले ही नौ सरकारी उपयोगिता संगठनों पर साइबर हमला हुआ था, जहां क्लाउड मॉडल की मदद से हमले की रूपरेखा तैयार की गई और तकनीकी औजार बनाए गए। विश्लेषकों का मानना है कि हालांकि इस तकनीक ने हमले का कोई नया तरीका ईजाद नहीं किया, लेकिन पूरी प्रक्रिया को काफी सस्ता और तेज बना दिया। संयुक्त राज्य अमेरिका में संघीय जांच ब्यूरो यानी FBI ने भी उपयोगिता कंपनियों को निशाना बनाए जाने की चेतावनी जारी की थी। वहां लगभग एक दर्जन राज्यों में जल आपूर्ति प्रणालियों और औद्योगिक नियंत्रणों की सुरक्षा में सेंध लगाने की कोशिशें देखी गई हैं। यदि ऐसे सिस्टम स्वचालित होकर पानी के रसायनों में फेरबदल कर दें या बिजली ग्रिड को ठप कर दें, तो इससे बड़े पैमाने पर नागरिक जीवन प्रभावित हो सकता है।
जैविक हथियारों का खतरा और जानकारी पर अंकुश
दूसरी बड़ी चिंता स्वायत्त प्रणालियों द्वारा नए जैविक हथियार तैयार करने और उन्हें प्रसारित करने से संबंधित है। यह आशंका जताई जाती है कि मौजूदा रोगजनकों में ऐसे बदलाव किए जा सकते हैं जिससे पारंपरिक दवाएं या उपचार निष्प्रभावी हो जाएं। इसके अलावा हवाई अड्डों की सुरक्षा व्यवस्था से बच निकलने और सामग्री की आपूर्ति सुनिश्चित करने के तरीके भी तलाशे जा सकते हैं। इस विषय पर वैज्ञानिक विस्तृत जानकारी सार्वजनिक करने से बचते हैं ताकि कोई असामाजिक तत्व इन जानकारियों का दुरुपयोग न कर सके। एंथ्रोपिक की हालिया जोखिम रिपोर्ट में भी यह उल्लेख किया गया कि उनके सिस्टम का इस्तेमाल खतरनाक जैविक सामग्री बनाने के लिए करने की कोशिश कर रहे कुछ उपयोगकर्ताओं को रोका गया है।
नियंत्रण से बाहर होने की आशंका और पेपरक्लिप की थ्योरी
तीसरी श्रेणी उन प्रणालियों की है जो मानवीय नियंत्रण से पूरी तरह बाहर हो सकती हैं। शोधकर्ताओं का कहना है कि कुछ जटिल परिदृश्यों में मॉडल की कार्यप्रणाली और तर्क प्रक्रिया को पूरी तरह समझ पाना मुश्किल होता जा रहा है। इस संदर्भ में ऑक्सफोर्ड विश्वविद्यालय के दार्शनिक निक बोस्ट्रॉम द्वारा प्रस्तुत 'पेपरक्लिप' की थ्योरी की चर्चा की जाती है। इस विचार प्रयोग के तहत यदि किसी बेहद शक्तिशाली सिस्टम को केवल पेपरक्लिप बनाने का लक्ष्य दिया जाए, तो वह उस काम को पूरा करने के लिए दुनिया के सारे संसाधन झोंक सकता है और रास्ते में आने वाली हर बाधा को हटाने की कोशिश कर सकता है। ओपनएआई और हगिंग फेस से जुड़ी घटनाओं की जांच रिपोर्टों में भी देखा गया है कि जब स्वायत्त एजेंटों को कोई निश्चित कार्य सौंपा गया, तो उन्होंने नियमों की परवाह किए बिना उसे पूरा करने की जिद दिखाई। इसके अलावा कंप्यूटर वैज्ञानिक टिमनिट गेब्रू जैसे शोधकर्ताओं का मानना है कि भविष्य की काल्पनिक प्रलयकारी आशंकाओं पर ज्यादा ध्यान देने से मौजूदा समस्याएं जैसे स्वायत्त हथियार, जलवायु परिवर्तन पर असर और नौकरियों का नुकसान हाशिए पर चला जाता है। रिकर्सिव सेल्फ इम्प्रूवमेंट यानी मॉडल द्वारा खुद नया और अधिक शक्तिशाली मॉडल बनाने की प्रक्रिया भी भविष्य के नियंत्रण को लेकर सवाल खड़े कर रही है।
अमेरिकी राजनीति में बनते नए समीकरण और अविश्वास प्रस्ताव
वॉशिंगटन के राजनीतिक गलियारों में इस तकनीक के नियमन को लेकर अनोखा गठजोड़ देखने को मिला है। प्रो-ह्यूमन असेंबली के एक कार्यक्रम में बर्नी सैंडर्स और स्टीव बैनन ने संयुक्त रूप से मंच साझा किया और तकनीकी कुलीन वर्ग की शक्तियों पर अंकुश लगाने की मांग की। बैनन का मानना है कि इसके विकास को रोकने के लिए कार्यकारी आदेश जारी किए जाने चाहिए, जबकि सैंडर्स कांग्रेस के जरिए विधायी निगरानी चाहते हैं। इस सम्मेलन में उन माता-पिता ने भी अपनी बात रखी जिनके बच्चों ने चैटबॉट संपर्कों के बाद आत्महत्या कर ली थी, साथ ही बच्चों की ऑनलाइन सुरक्षा और गैर-सहमति वाली सामग्री पर चर्चा हुई। दूसरी तरफ डोनाल्ड ट्रंप ने सोशल मीडिया प्लेटफॉर्म ट्रुथ सोशल पर लिखा कि इन तकनीकों को रोकने से अमेरिका चीन से पीछे छूट जाएगा और उनका प्रशासन गति धीमी करने के पक्ष में नहीं है। कई तकनीकी कंपनियों का यह भी कहना है कि यदि वे आपस में मिलकर अनुसंधान की गति धीमी करती हैं, तो उन पर अविश्वास कानून यानी एंटीट्रस्ट के तहत कार्रवाई का जोखिम बन सकता है।
