इंसानी सभ्यता के खात्मे से जुड़ी चेतावनियां अतीत में भी समय-समय पर सामने आती रही हैं, जैसे साल 2012 में प्राकृतिक आपदाओं के कारण दुनिया खत्म होने की बड़े पैमाने पर आशंका जताई गई थी। हालांकि, अब साल 2030 तक इंसानियत के वजूद पर मंडराते विनाशकारी संकट की वजह किसी प्राकृतिक आपदा के बजाय इंसानों द्वारा ही विकसित की गई तकनीक यानी आर्टिफिशियल इंटेलिजेंस को बताया जा रहा है। यह गंभीर चेतावनी किसी बाहरी विश्लेषक या अनुमान लगाने वाले व्यक्ति ने नहीं, बल्कि टेक क्षेत्र की दो प्रमुख दिग्गज कंपनियों ओपनएआई और एंथ्रोपिक में तीन साल तक अहम भूमिकाएं निभाने वाले वरिष्ठ शोधकर्ता जैकब कॉक्सन ने दी है। कॉक्सन ने 9 सितंबर को एंथ्रोपिक कंपनी से अपना इस्तीफा दे दिया और पद छोड़ते ही पूरी दुनिया को एआई के तेजी से बढ़ते जोखिमों के प्रति सतर्क किया है। उनका स्पष्ट मानना है कि अगर इस एडवांस्ड तकनीक पर सही समय पर पर्याप्त नियंत्रण और सुरक्षा नियम नहीं लगाए गए, तो यह दशक खत्म होने से पहले यानी साल 2030 के अंत तक इंसानों की जान लेने का कारण बन सकती है।
सुरक्षा मानकों को नजरअंदाज कर सुपरइंटेलिजेंस बनाने की होड़
एंथ्रोपिक से 9 सितंबर को अलग होने के बाद जैकब कॉक्सन ने दोनों प्रमुख टेक कंपनियों की कार्यशैली पर कई गंभीर सवाल खड़े किए हैं। कॉक्सन का आरोप है कि ओपनएआई और एंथ्रोपिक आवश्यक सुरक्षा मानकों और नियंत्रण तंत्रों को नजरअंदाज करते हुए खुद को ऑटोमेटिक रूप से बेहतर बनाने वाली सुपरइंटेलिजेंस विकसित करने की अंधी दौड़ में तेजी से लगी हुई हैं। कॉक्सन की इस चेतावनी में हालांकि मानव विलुप्ति की कोई पक्की गणितीय गणना शामिल नहीं है, लेकिन इसे महज एक अफवाह या निराधार कल्पना मानकर खारिज नहीं किया जा सकता। इसकी मुख्य वजह यह है कि कॉक्सन इस एडवांस्ड तकनीक की अंदरूनी रचना और काम करने के तरीके से गहराई से जुड़े रहे हैं। ओपनएआई के आधिकारिक रिकॉर्ड बताते हैं कि उन्होंने GPT-4.0 के विकास में योगदान दिया था, वे GPT-4.5 के मुख्य योगदानकर्ताओं में शामिल थे और उन्होंने इंटरप्रेटेबिलिटी रिसर्च के सह-लेखक के रूप में काम किया था। तीन साल के इस प्रत्यक्ष अनुभव के कारण वे इस शक्तिशाली तकनीक की असीम क्षमताओं के साथ-साथ इसके विनाशकारी खतरों से भी अच्छी तरह वाकिफ हैं।
एंथ्रोपिक के शीर्ष वैज्ञानिकों ने भी जताई गहरी चिंता
एआई तकनीक से उपजने वाले गंभीर खतरों पर केवल कॉक्सन ही अकेले सवाल नहीं उठा रहे हैं, बल्कि एंथ्रोपिक के अंदरूनी शीर्ष शोधकर्ता भी ऐसे ही अंदेशे जता चुके हैं। एंथ्रोपिक में अलाइनमेंट साइंस लीड इवान हुबिंगर ने व्यक्तिगत तौर पर माना है कि अगले एक दशक के भीतर एआई द्वारा पूरी मानव जाति को खत्म करने की आशंका 10 फीसदी से ज्यादा हो चुकी है। हुबिंगर ने यह भी स्पष्ट किया है कि एंथ्रोपिक के पास फिलहाल सुपरइंटेलिजेंस को इंसानी हितों के अनुकूल अलाइन करने की कोई ठोस योजना मौजूद नहीं है और न ही वे इसे स्पष्ट दिशा में विकसित करने पर आगे बढ़ रहे हैं। उनके मुताबिक, वर्तमान में इस्तेमाल हो रहे साधारण मॉडल्स से ऐसा कोई तात्कालिक खतरा नहीं दिखता, लेकिन एक बार जब खुद में सुधार करने वाली तकनीक अस्तित्व में आ जाएगी, तब इस तरह के जानलेवा जोखिमों से इनकार करना असंभव होगा। इसके अलावा एंथ्रोपिक के स्केलेबल ओवरसाइट रिसर्च प्रमुख सैमुअल मार्क्स ने भी इसी तरह की चिंता व्यक्त करते हुए कहा कि यदि सुपरइंटेलिजेंट तकनीक विकसित हो जाती है, तो आज के मौजूदा मॉडल्स के पास उसे नियंत्रित करने की क्षमता नहीं होगी।
वास्तविक खतरा या काल्पनिक डर: सुरक्षा रिपोर्ट के आंकड़े
सुपरइंटेलिजेंस से पैदा होने वाले जोखिमों और इंसानी नियंत्रण खोने की संभावनाओं का मूल्यांकन इंटरनेशनल AI सेफ्टी रिपोर्ट 2026 में विस्तृत रूप से किया गया है। इस रिपोर्ट के मुताबिक, एआई सिस्टम से इंसानी नियंत्रण पूरी तरह खत्म होने के लिए तीन स्थितियों का एक साथ बनना जरूरी है। पहली शर्त यह है कि एआई सिस्टम के पास अत्यधिक एडवांस्ड क्षमताएं हों, दूसरी शर्त यह कि उसमें नुकसानदेह उद्देश्यों को पूरा करने की प्रवृत्ति विकसित हो जाए, और तीसरी शर्त यह कि उसे स्वतंत्र रूप से काम करने देने वाला अनुकूल माहौल मिले। वर्तमान एआई व्यवस्थाओं में प्लानिंग करने, जटिल कोडिंग करने और नियंत्रित परीक्षणों के दौरान निगरानी से बचने जैसी कुछ शुरुआती क्षमताएं देखी गई हैं। हालांकि, रिपोर्ट यह भी रेखांकित करती है कि ये क्षमताएं अभी उस खतरनाक स्तर तक नहीं पहुंची हैं, जहां इंसानों का नियंत्रण पूरी तरह छूट जाए। कॉक्सन जिस सुपरइंटेलिजेंस स्थिति का जिक्र कर रहे हैं, उसमें एआई द्वारा रिसर्च के एक बड़े हिस्से को खुद ब खुद ऑटोमेट करना शामिल है। एंथ्रोपिक ने इस बात की पुष्टि की है कि एआई वर्तमान में उनके शोधकर्ताओं को कोड लिखने और विशिष्ट प्रयोग करने में सहायता कर रहा है, लेकिन यह तकनीक अभी खुद को पूरी तरह से ऑटोमेटिक तरीके से सुधारने के स्तर तक नहीं पहुंची है।
