अमेरिकी सरकार के आदेश पर Anthropic ने Claude Fable 5 को बंद किया, कंपनी ने जताई असहमति

क्या हुआ

Anthropic ने शुक्रवार को अपने एक ब्लॉग पोस्ट में बताया कि उसने अपने नए AI मॉडल Claude Fable 5 को उपयोगकर्ताओं की पहुँच से हटा दिया है। कंपनी के अनुसार, अमेरिकी सरकार के आदेश में उससे कहा गया था कि वह "किसी भी विदेशी नागरिक, चाहे वह अमेरिका के भीतर हो या बाहर, जिसमें विदेशी नागरिक Anthropic कर्मचारी भी शामिल हैं" की पहुँच निलंबित करे। आदेश का पालन सुनिश्चित करने के लिए कंपनी ने आगे बढ़कर अपने सभी ग्राहकों की पहुँच ही बंद कर दी। इस तरह की घटना पहले कभी नहीं हुई थी और यह Anthropic तथा ट्रंप प्रशासन के बीच बढ़ते टकराव की नई कड़ी है।

पत्र में क्या लिखा था

कंपनी के मुताबिक उसे अमेरिकी सरकार का यह पत्र शाम 5:21 बजे ET पर मिला। Anthropic ने लिखा, "पत्र में उसकी राष्ट्रीय सुरक्षा चिंता का कोई विशेष विवरण नहीं दिया गया था।"

कंपनी ने आगे कहा, "हमारी समझ यह है कि सरकार को लगता है कि उसे Fable 5 को बायपास करने या उसे 'जेलब्रेक' करने का एक तरीका पता चल गया है। हमने इस विशेष तकनीक के इस्तेमाल का एक प्रदर्शन देखा, जिससे पहले से ज्ञात कुछ छोटी-मोटी कमज़ोरियों की पहचान की गई। ये सभी कमज़ोरियाँ अपेक्षाकृत साधारण लगती हैं, और हमने पाया है कि दूसरे सार्वजनिक रूप से उपलब्ध मॉडल भी बिना किसी बायपास के इन्हें खोज सकते हैं।"

Anthropic का बचाव

कंपनी ने तर्क दिया कि उसने Claude Fable 5 के दुरुपयोग की आशंका घटाने के लिए मज़बूत सुरक्षा उपाय लागू किए हैं। Anthropic ने यह भी दावा किया कि सरकार को मिला जेलब्रेक बहुत सीमित दायरे का था और इससे कोई हमलावर किसी दूसरे AI मॉडल की तुलना में सार्थक रूप से अधिक ख़तरनाक नहीं बन पाता।

ब्लॉग पोस्ट में कंपनी ने कहा, "अब तक सरकार ने हमें केवल एक संभावित सीमित, ग़ैर-सार्वभौमिक जेलब्रेक का मौखिक प्रमाण दिया है, जिसमें मूलतः मॉडल से किसी विशेष कोडबेस को पढ़ने और उसमें मौजूद सॉफ़्टवेयर खामियों को ठीक करने को कहा जाता है। हमारी समझ यह है कि एक संभावित जेलब्रेक सरकार के साथ साझा किया गया था।"

Fable 5 आख़िर है क्या

मंगलवार को Anthropic ने Claude Fable 5 को सार्वजनिक रूप से जारी किया था। यह कंपनी के Mythos AI मॉडल का एक संस्करण है, जिसमें ऐसे सुरक्षा उपाय जोड़े गए हैं जो इसे साइबर सुरक्षा, जीवविज्ञान और रसायन विज्ञान से जुड़े सवालों के जवाब देने से रोकते हैं। कंपनी का कहना है कि यह सार्वजनिक रिलीज़ उसने अमेरिकी सरकार के सहयोग से की थी। इससे पहले अप्रैल में Mythos Preview AI मॉडल को सीमित रूप से जारी किया गया था। इसका मक़सद कंपनियों और संगठनों को इसकी शक्तिशाली साइबर सुरक्षा क्षमताओं का इस्तेमाल कर अपनी सुरक्षा मज़बूत करने का अवसर देना था, साथ ही इन आशंकाओं को कम करना था कि शरारती तत्व इस तकनीक का इस्तेमाल ताकतवर हैकिंग उपकरण बनाने में कर सकते हैं।

पहले से तनाव की पृष्ठभूमि

इस साल की शुरुआत में ट्रंप के रक्षा विभाग ने Anthropic को "सप्लाई चेन रिस्क" करार दिया था। यह तब हुआ जब Claude बनाने वाली इस कंपनी ने इस बात पर सीमाएँ तय करने की कोशिश की कि अमेरिकी सेना उसकी तकनीक का इस्तेमाल किस तरह कर सकती है। इस ठप्पे के चलते सरकारी एजेंसियों और ठेकेदारों के लिए Anthropic की तकनीक का उपयोग व्यावहारिक रूप से रुक गया। जवाब में Anthropic ने ट्रंप प्रशासन के ख़िलाफ़ मुकदमे दायर कर दिए।

कंपनी की आपत्ति

Anthropic के CEO Dario Amodei ने इसी सप्ताह एक नीति-निबंध में कहा था कि वे और उनकी कंपनी एक निष्पक्ष, सुव्यवस्थित और पारदर्शी सरकारी प्रक्रिया का समर्थन करते हैं, जो असुरक्षित AI मॉडल की रिलीज़ को रोक सके। शुक्रवार के ब्लॉग पोस्ट में कंपनी ने तर्क दिया कि "यह कार्रवाई उन सिद्धांतों के अनुरूप नहीं है।"

व्हाइट हाउस और अमेरिकी वाणिज्य विभाग के प्रवक्ताओं ने टिप्पणी के अनुरोध पर तुरंत कोई प्रतिक्रिया नहीं दी।