कृत्रिम बुद्धिमत्ता (AI) की दुनिया में इस समय एक बड़ी बहस छिड़ी हुई है कि क्या किसी एक ताकतवर मॉडल पर पाबंदी लगाकर खतरे को रोका जा सकता है। Anthropic के मॉडल इस बहस के केंद्र में हैं, लेकिन सुरक्षा विशेषज्ञ साफ कह रहे हैं कि असली समस्या किसी एक कंपनी तक सीमित नहीं है।
दोधारी तलवार जैसी क्षमता
अप्रैल में Mythos के सामने आने के बाद से Anthropic खुद यह बात कहती और चेताती रही है कि उसका मॉडल सॉफ्टवेयर की कमजोरियां ढूंढने में माहिर है। यह क्षमता एक तरफ सुरक्षा टीमों को कमजोरियां पैच करने में मदद करती है, तो दूसरी तरफ इन्हीं कमजोरियों का फायदा उठाने के तरीके भी निकाल सकती है, जिनका दुरुपयोग गलत इरादे वाले लोग कर सकते हैं। कंपनी ने Mythos 5 और Claude Fable 5 को पेश करते समय इसी दोधारी पहलू को रेखांकित किया था।
पिछले हफ्ते एक ब्लॉग पोस्ट में कंपनी ने लिखा, "AI मॉडलों का बहुत सारा उन्नत उपयोग दोहरे इस्तेमाल वाला है: जो सवाल साइबर सुरक्षा पेशेवरों और जीवविज्ञान शोधकर्ताओं के हाथ में फायदेमंद हैं, वही सवाल गलत इरादे वाले लोगों के पास पहुंच जाएं तो खतरनाक साबित हो सकते हैं।"
सीमित दायरे में रिलीज, फिर सार्वजनिक मॉडल
इसी सोच के चलते कंपनी ने सबसे पहले Mythos Preview नाम का एक संस्करण एक चुनिंदा समूह को जारी किया, जो Project Glasswing नामक वर्किंग ग्रुप का हिस्सा था। Mythos 5 भी पिछले हफ्ते इसी समूह के लिए निजी तौर पर जारी किया गया। वहीं Claude Fable 5, जो Mythos-स्तर का मॉडल है, आम जनता के लिए जारी किया गया, लेकिन उसमें जीवविज्ञान और साइबर सुरक्षा से जुड़े सवालों के जवाब देने पर खास रोक लगाई गई थी।
ट्रंप प्रशासन की पाबंदी
इसके बाद पिछले हफ्ते के आखिर में Trump प्रशासन ने दोनों मॉडलों पर पाबंदी लगाने का कदम उठाया। प्रशासन का मानना है कि Fable 5 के सुरक्षा अवरोधकों (guardrails) को हटाकर Mythos 5 की पूरी क्षमताओं तक पहुंच बनाई जा सकती है, जिससे कथित तौर पर यह राष्ट्रीय सुरक्षा के लिए खतरा बन जाता है।
विशेषज्ञ क्यों मानते हैं कि पाबंदी अधूरी है
हालांकि विशेषज्ञों का कहना है कि संस्थाओं के बीच का यह टकराव एक कड़वे सच को सिर्फ टाल रहा है या छिपा रहा है। हो सकता है कि इस वक्त Anthropic सबसे आगे हो, पर आम तौर पर AI की क्षमताएं और कई कंपनियों तथा ओपन-वेट डेवलपरों के मॉडल आने वाले समय में लगभग निश्चित रूप से Mythos 5 जैसी क्षमताएं हासिल कर लेंगे, अगर पहले से नहीं कर चुके हैं।
विशेष साइबर सुरक्षा परामर्श फर्म TPO Group की मुख्य सुरक्षा अधिकारी Tarah Wheeler कहती हैं, "यह सोचना बेहद संकीर्ण नजरिया है कि Anthropic के अलावा कोई और प्रतिस्पर्धी Mythos जैसी क्षमताएं विकसित नहीं करेगा, या यह कि उन्होंने अब तक ऐसा कर भी नहीं लिया है। Anthropic के ठीक पीछे कई और कंपनियां हैं, जिनके पास शायद यह क्षमता है, और वे इसे अपने पास संभालकर रखे हुए हैं, यह देखते हुए कि मौजूदा नियामक माहौल में Anthropic के साथ कैसा बर्ताव हो रहा है।"
Anthropic खुद भी Mythos Preview की शुरुआत से ही इस बात पर जोर देती रही है। कंपनी के फ्रंटियर रेड टीम प्रमुख Logan Graham ने अप्रैल में Mythos Preview के लॉन्च के समय TrendKia को बताया, "असली संदेश यह है कि यह मॉडल या Anthropic के बारे में नहीं है। हमें अभी से उस दुनिया के लिए तैयारी करनी होगी जहां ये क्षमताएं 6, 12, 24 महीनों में व्यापक रूप से उपलब्ध होंगी।"
सिर्फ एक मॉडल नहीं, पूरी तकनीकी दिशा
उदाहरण के तौर पर, OpenAI ने भी अप्रैल के मध्य में साइबर सुरक्षा पर केंद्रित एक मॉडल निजी तौर पर जारी किया और एक विस्तारित साइबर सुरक्षा रणनीति की घोषणा की।
शोधकर्ता बताते हैं कि मॉडलों की इस अगली पीढ़ी से पहले भी, मौजूदा AI सेवाओं का इस्तेमाल एक बेहतर ढांचे (harness) के साथ कमजोरियां खोजने और उनका फायदा उठाने वाले उन्नत काम के लिए किया जा सकता है। साइबर सुरक्षा क्षेत्र के बड़े नेताओं के एक समूह ने रविवार को एक खुले पत्र में प्रशासन के सामने इसी बात पर जोर दिया और तर्क दिया कि व्हाइट हाउस का निर्यात-नियंत्रण निर्देश गलत दिशा में है।
Harvard University और University of Toronto के शोधकर्ता Bruce Schneier, जो इस स्थिति का विश्लेषण कर रहे हैं, कहते हैं, "यह कोई एक मॉडल नहीं है; यह तकनीक की सामान्य दिशा है। छोटे, सस्ते, ओपन-सोर्स मॉडल, कभी अकेले और कभी आपस में मिलकर, ज्यादा परिष्कृत प्रॉम्प्टिंग के साथ Mythos/Fable के प्रदर्शन की बराबरी कर सकते हैं। और हमें उम्मीद करनी चाहिए कि दूसरे मॉडल कुछ ही महीनों में Mythos/Fable की रचनात्मकता और दृढ़ता की बराबरी कर लेंगे, ओपन-सोर्स मॉडलों के लिए थोड़ा ज्यादा समय लगेगा।"
असली नीतिगत सवाल क्या है
विशेषज्ञ कहते हैं कि व्हाइट हाउस और दुनिया भर की सरकारों को जिस पर ध्यान देना चाहिए, वह है लोकतांत्रिक तरीके से कहीं अधिक व्यापक और पारदर्शी योजनाएं बनाना, ताकि साइबर सुरक्षा और दूसरे संवेदनशील क्षेत्रों में AI क्षमताओं की प्रगति का सामना किया जा सके, क्योंकि यह प्रगति अनिवार्य रूप से होनी ही है।
क्लाउड सुरक्षा फर्म Veracode के सह-संस्थापक Chris Wysopal कहते हैं, "नीतिगत सवाल यह नहीं है कि किसी तकनीक में जोखिम है या नहीं। सवाल यह है कि क्या कोई खास पाबंदी सचमुच उस जोखिम को सार्थक रूप से घटाती है, या वह मुख्य रूप से उन लोगों की रफ्तार धीमी करती है जो सिस्टम को सुरक्षित बनाने की कोशिश कर रहे हैं।"
