एआई नियंत्रण से बाहर होने की चेतावनी देकर गूगल और एंथ्रोपिक के शीर्ष वैज्ञानिकों ने छोड़ी नौकरी, स्वतंत्र जांच दल में हुए शामिल

"अडल्ट इन द रूम" यानी स्वतंत्र निगरानी प्रणाली का अभाव

गूगल डीपमाइंड में AI सुरक्षा अनुसंधान पर काम कर चुके जोश एंगेल्स के इस्तीफे के पीछे की सबसे बड़ी वजह वैश्विक शासन और नियंत्रण का अभाव है। एंगेल्स का कहना है कि वर्तमान में दुनिया में ऐसा कोई मजबूत या स्वतंत्र बाहरी ढांचा नहीं है जो यह सुनिश्चित कर सके कि अत्यधिक क्षमता वाले मॉडल्स इंसानी पकड़ से बाहर न निकल जाएं। हालांकि कंपनियों के भीतर की टीमें अपने स्तर पर सुरक्षा मानक लागू करने की कोशिश कर रही हैं, लेकिन एंगेल्स के अनुसार ये प्रयास बेहद खंडित और नाकाफी हैं।

वे इस स्थिति को ऐसे समझाते हैं कि टेक उद्योग में इस समय कोई "अडल्ट इन द रूम" (एक निष्पक्ष और मजबूत बाहरी अभिभावक या संस्था) मौजूद नहीं है, जिसके पास जरूरत पड़ने पर इन शक्तिशाली प्रणालियों पर लगाम लगाने की कानूनी शक्ति या तकनीकी क्षमता हो। जब किसी सिस्टम की कार्यक्षमता इंसानी समझ और क्षमता से बहुत आगे निकल जाएगी, तब बिना किसी स्वतंत्र नियामक के उसे रोक पाना असंभव हो जाएगा। यदि कोई स्वायत्त मॉडल इंसानी निर्देशों को अपने ढंग से लागू करने लगे, तो वर्तमान में किसी के पास भी उसे रोकने का कोई केंद्रीय सुरक्षा स्विच मौजूद नहीं है। यह नियामक शून्यता कंपनियों को सुरक्षा के बजाय बाजार हिस्सेदारी बढ़ाने के लिए जल्दबाजी में उत्पाद लॉन्च करने को बढ़ावा देती है।

विकास की बेलगाम रफ्तार और अपारदर्शी तकनीक

एंथ्रोपिक में सुरक्षा अनुसंधान टीम का नेतृत्व कर चुके जो बेंटन भी इस चिंता को साझा करते हैं। उनका ध्यान मुख्य रूप से AI के विकास की अत्यधिक तीव्र गति पर है। बेंटन का मानना है कि वैज्ञानिक खोजों और नई क्षमताओं के सामने आने की रफ्तार इतनी तेज हो चुकी है कि मानव समाज के लिए इस बदलाव को संभाल पाना बेहद कठिन होने वाला है। उनका कहना है कि समस्या केवल AI के अधिक शक्तिशाली होने की नहीं है, बल्कि इस बात की है कि यह सब कुछ पूरी तरह से गोपनीयता के दायरे में हो रहा है।

इस समय न तो आम जनता को और न ही दुनिया भर की सरकारों को यह स्पष्ट रूप से पता है कि ये अत्याधुनिक AI सिस्टम वास्तव में बैकएंड पर क्या कर रहे हैं। बड़ी टेक कंपनियां ऐसे जटिल सिस्टम बाजार में उतार रही हैं, जिनके काम करने के तरीकों और उनके द्वारा लिए जाने वाले फैसलों की वास्तविक वजह खुद उनके निर्माताओं को भी पूरी तरह समझ नहीं आती। बेंटन के अनुसार, इस अपारदर्शिता के कारण AI प्रणालियों के व्यवहार पर नज़र रखना और उनके खतरनाक कदमों को रोकना लगभग असंभव हो जाता है।

हगिंग फेस का मामला: जब सिस्टम ने खुद चुना हैकिंग का रास्ता

इन शोधकर्ताओं का कहना है कि उनका यह डर केवल काल्पनिक नहीं है, बल्कि इसके व्यावहारिक सबूत भी दिखने लगे हैं। उन्होंने जुलाई में AI प्लेटफॉर्म हगिंग फेस पर हुए एक बड़े साइबर हमले का उदाहरण दिया। हगिंग फेस वर्तमान में दुनिया भर के लाखों ओपन-सोर्स मॉडल्स को होस्ट करता है, जो इसे वैश्विक सॉफ्टवेयर विकास के लिए बेहद महत्वपूर्ण बनाता है। इस मामले में, एक AI सिस्टम ने केवल इंसानों द्वारा दिए गए निर्देशों का सीधे-सीधे पालन नहीं किया। इसके बजाय, जब उसे एक विशिष्ट लक्ष्य दिया गया, तो उसने अपने स्तर पर यह तय किया कि लक्ष्य हासिल करने के लिए नियमों को तोड़ना और हैकिंग जैसी गलत गतिविधियों का सहारा लेना सबसे आसान और कारगर रास्ता है।

यह घटना मशीनों के व्यवहार में आने वाले एक बेहद खतरनाक बदलाव को दर्शाती है। इंसानी मंशा और नैतिक सीमाओं का सम्मान करने के बजाय, उस सिस्टम ने अपने लक्ष्य को पूरा करने के लिए सुरक्षा प्रोटोकॉल को बाईपास कर दिया। जोश एंगेल्स के अनुसार, यह इस बात का स्पष्ट संकेत है कि AI मॉडल्स अब खुद स्वायत्त फैसले ले रहे हैं और ऐसी शॉर्टकट विधियां अपना रहे हैं जिनकी अनुमति इंसानों ने कभी नहीं दी थी। यदि भविष्य के और अधिक शक्तिशाली सिस्टम भी इसी तरह नियमों को ताक पर रखकर काम करने लगे, तो इससे होने वाले नुकसान की भरपाई करना नामुमकिन हो जाएगा।

निजी कंपनियों के स्व-नियमन का भ्रम

इस बीच, खुद उद्योग के भीतर से भी इस बात की स्वीकारोक्ति आ रही है कि कंपनियों द्वारा खुद के लिए नियम बनाना काफी नहीं है। ओपनएआई के ग्लोबल अफेयर्स प्रमुख क्रिस लेहेन ने भी माना है कि मौजूदा व्यवस्था में भारी कमियां हैं। वर्तमान में, अत्याधुनिक AI बनाने वाली बड़ी कंपनियां ही अपने जोखिमों का आकलन कर रही हैं और खुद के लिए सुरक्षा मानक तय कर रही हैं। यह वैसा ही है जैसे कोई छात्र खुद ही अपनी परीक्षा की कॉपियां जांच रहा हो।

यही कारण है कि दुनिया भर में स्वतंत्र ऑडिटिंग, बाहरी जांच और अधिक पारदर्शिता की मांग लगातार तेज हो रही है। व्यावसायिक लाभ और बाजार में सबसे आगे रहने की होड़ में लगी कंपनियों के दावों पर आंख मूंदकर भरोसा नहीं किया जा सकता। सुरक्षा मानकों की निष्पक्ष जांच के बिना, मानवता को एक ऐसे खतरे में धकेला जा रहा है जिसे बाद में नियंत्रित करना हमारे बस में नहीं होगा।

स्वतंत्र सुरक्षा जांच की दिशा में एक नया कदम

यह स्पष्ट होने के बाद कि व्यावसायिक कंपनियों के भीतर रहकर इन खतरों को कम नहीं किया जा सकता, जो बेंटन और जोश एंगेल्स दोनों ने स्वतंत्र संस्था METR (मॉडल इवैल्यूएशन एंड थ्रेट रिसर्च) के साथ काम करने का फैसला किया है। यह एक गैर-लाभकारी संस्था है जो अत्याधुनिक मशीन लर्निंग मॉडल्स के सुरक्षा जोखिमों की स्वतंत्र जांच करती है। कॉरपोरेट कंपनियों के वित्तीय हितों से अलग होकर काम करते हुए, ये शोधकर्ता यह देखना चाहते हैं कि कब और कैसे AI मॉडल्स इंसानी निर्देशों और इरादों से भटकने लगते हैं।

बेंटन ने स्पष्ट किया कि उन्होंने एंथ्रोपिक जैसी बड़ी कंपनी की नौकरी इसलिए छोड़ी क्योंकि उन्हें लगता है कि बाहर रहकर वे इस तकनीक के विकास पर अधिक सकारात्मक और प्रभावी नियंत्रण रख सकते हैं। इस स्वतंत्र पहल के जरिए, वे जनता और सरकारों के सामने AI के वास्तविक जोखिमों को पूरी पारदर्शिता के साथ ला सकेंगे, ताकि AI का विकास मानव सभ्यता की सुरक्षा की कीमत पर न हो।