Anthropic और Trump प्रशासन के बीच कंपनी के सबसे ताक़तवर AI सिस्टम को लेकर खिंचाव कम होता नहीं दिख रहा। मामले की जानकारी रखने वाले तीन लोगों ने TrendKia को बताया कि सोमवार को दोनों पक्षों के बीच बातचीत का एक और दौर पूरा हुआ, लेकिन अधिकारी वे निर्यात नियंत्रण हटाए बिना ही लौटे जो एक हफ़्ते पहले कंपनी के सबसे उन्नत मॉडलों पर लगाए गए थे। ये पाबंदियाँ इस आशंका के चलते लगाई गई थीं कि मॉडल को जेलब्रेक किया जा सकता है।
इन लोगों के मुताबिक़ प्रशासन अब भी यह मानता है कि Claude Fable 5 में लगे कुछ गार्डरेल्स को बंद किया जा सकता है। अगर ऐसा संभव हुआ तो उपयोगकर्ताओं को असल में कंपनी के Mythos मॉडल की कहीं ज़्यादा ताक़तवर साइबर सुरक्षा क्षमताओं तक पहुँच मिल जाएगी।
असली टकराव जोखिम की गंभीरता पर है
विवाद की बुनियाद में एक सीधा मतभेद है कि Claude Fable 5 को जेलब्रेक करने का मसला असल में कितना ख़तरनाक है। पिछले कई दिनों से Anthropic यही कहता आ रहा है कि प्रशासन ख़तरे को बढ़ा-चढ़ाकर पेश कर रहा है। शुक्रवार को एक ब्लॉग पोस्ट में भी कंपनी ने इशारा किया था कि संभावित जोखिमों का जैसा चित्रण प्रशासन कर रहा है, वह हक़ीक़त से कहीं बड़ा है।
तकनीकी तौर पर जेलब्रेकिंग का मतलब है किसी AI मॉडल को ख़ास तरीक़े से प्रॉम्प्ट देकर उसकी सुरक्षा कवच को चकमा देना। Fable 5 दरअसल Mythos का ही एक रूप है, जिसमें साइबर सुरक्षा, जीवविज्ञान और रसायन से जुड़े गार्डरेल्स जोड़े गए हैं। अगर इन सुरक्षा परतों को पार कर लिया जाए तो उपयोगकर्ता को व्यावहारिक रूप से Mythos का ही एक संस्करण मिल जाएगा। ख़ुद Anthropic Mythos को आम जनता के इस्तेमाल के लिए खोलने पर गहरी चिंता जता चुका है, फिर भी शुक्रवार को उसने कहा था कि Fable 5 के सुरक्षा उपाय इतने मज़बूत हैं कि इसे सार्वजनिक रूप से जारी किया जा सके।
वाणिज्य विभाग की बैठकों के भीतर
एक व्यक्ति के अनुसार Anthropic ने अपनी यही बात वाणिज्य विभाग में हुई वर्किंग ग्रुप बैठकों में भी दोहराई, जिनमें Center for AI Standards and Innovation (CAISI) और राष्ट्रीय साइबर निदेशक के कार्यालय Sean Cairncross के सरकारी शोधकर्ता शामिल हुए। इन बैठकों में वाणिज्य सचिव Howard Lutnick भी जुड़े, जो फ़्रांस के Evian में चल रहे G7 शिखर सम्मेलन से कॉन्फ्रेंस कॉल के ज़रिए शामिल हुए। उसी व्यक्ति ने बताया कि Cairncross ने ख़ुद इसमें हिस्सा नहीं लिया।
Anthropic की ओर से बातचीत की कमान सह-संस्थापक और चीफ़ कंप्यूट ऑफ़िसर Tom Brown तथा बाहरी मामलों की प्रमुख Sarah Heck संभाल रहे हैं। बातचीत के लिए कंपनी के फ्रंटियर रेड टीमिंग प्रमुख Logan Graham और वरिष्ठ सुरक्षा शोधकर्ता Nicholas Carlini उड़ान भरकर Washington, DC पहुँचे।
Anthropic के एक प्रवक्ता ने TrendKia को दिए बयान में कहा, “Both parties are working quickly to get this resolved.” व्हाइट हाउस के एक प्रवक्ता ने टिप्पणी करने से इनकार कर दिया। फ़िलहाल यह साफ़ नहीं है कि आगे के क़दम किस तरह आकार लेंगे। एक व्यक्ति के मुताबिक़ वाणिज्य विभाग ने Fable 5 को उपभोक्ता इस्तेमाल के लिए दोबारा ऑनलाइन लाने की इच्छा तो जताई, लेकिन यह संभवतः इस शर्त पर निर्भर करेगा कि Anthropic जेलब्रेक से जुड़ी चिंताओं को पूरी तरह दूर कर दे।
अलार्म कैसे बजा
यह आपातकालीन बातचीत Anthropic के लिए एक नाज़ुक राजनीतिक मोड़ पर आई है, क्योंकि कंपनी पहले से ही Pentagon के साथ इस लंबे विवाद में उलझी हुई है कि उसके AI मॉडलों का कुछ सैन्य कामों में इस्तेमाल हो सकता है या नहीं।
Trump प्रशासन को जेलब्रेक की इन आशंकाओं की भनक पहली बार पिछले हफ़्ते लगी। इन लोगों के अनुसार Amazon के CEO Andy Jassy ने इन कथित कमज़ोरियों को लेकर सीधे ट्रेज़री सचिव Scott Bessent को फ़ोन किया, और इसी ने प्रशासन को सतर्क करने में भूमिका निभाई। Jassy की Trump प्रशासन से हुई बातचीत की ख़बर सबसे पहले TrendKia ने दी थी।
घबराए व्हाइट हाउस अधिकारियों ने इन कमज़ोरियों की समीक्षा में मदद का काम NSA को सौंपा। NSA ने जवाब में कहा कि उसे लगता है कि Fable 5 के गार्डरेल्स को सचमुच हटाया जा सकता है, और इसी के बाद प्रशासन ने मॉडल पर पाबंदियाँ लगा दीं।
इसके बाद शुक्रवार को, जब वाणिज्य विभाग Fable 5 पर निर्यात नियंत्रण लगाने वाला अपना पत्र तैयार कर रहा था, Lutnick ने Anthropic के मुख्य कार्यकारी Dario Amodei से बात की। घटनाक्रम की जानकारी रखने वाले एक व्यक्ति के मुताबिक़ सप्ताहांत में, Anthropic द्वारा सभी उपयोगकर्ताओं के लिए मॉडल तक पहुँच बंद कर देने के बाद, Lutnick की Brown और Heck के साथ कई कॉल हुईं।
यह स्पष्ट नहीं है कि Anthropic के सबसे बड़े निवेशकों में से एक Amazon ने Fable 5 को लेकर अलार्म क्यों बजाया। Amazon के एक प्रवक्ता ने TrendKia से कहा, “As a leading cloud provider that serves a large number of private and public sector customers, it’s not uncommon for governments to seek our counsel on potential security risks. When they occur, we don’t share the details of these discussions.”
सुरक्षा शोधकर्ताओं की आपत्ति
सोमवार को कुछ साइबर सुरक्षा शोधकर्ताओं ने अधिकारियों के सामने Anthropic वाली बात ही दोहराई और एक खुला पत्र भेजा, जिसमें तर्क दिया गया कि कंपनी के ख़िलाफ़ की गई निर्यात नियंत्रण की कार्रवाई बेजा है। खुले पत्र में लिखा है, “Anthropic’s Mythos-class models are quite good at finding flaws and weaponizing exploits. However, they are not uniquely good at these tasks, and many of the undersigned individuals regularly use other foundation and open-source models for security audits and red-teaming every day. As a result, this action has taken the best models away from defenders, created market uncertainty, and risked America’s AI leadership without any real risk to justify it.”
Amazon के निष्कर्षों का आकलन करने वाले शोधकर्ताओं का कहना है कि जो दिक़्क़तें पहचानी गईं, उन्होंने Fable 5 के सुरक्षा उपायों को पूरी तरह बेअसर नहीं किया। Luta Security की संस्थापक और CEO Katie Moussouris, जिन्होंने Amazon का पेपर पढ़ने के बाद एक विश्लेषण प्रकाशित किया, कहती हैं, “It wasn’t a jailbreak per se.”
Moussouris ज़ोर देकर कहती हैं कि अमेरिकी सरकार के पास Fable 5 के पूरे जेलब्रेक का सबूत हो या न हो, मॉडल की किसी ख़ास विषय तक पहुँच को सीमित करना ज़्यादा से ज़्यादा एक अस्थायी जुगाड़ है। वे कहती हैं, “Most of us [in security research] think guardrails are speed bumps and shouldn’t be treated like security boundaries for skilled adversaries. They only serve to slow down the less skilled.”
पूरे AI उद्योग के लिए बड़ा दांव
कंपनी के क़रीबी एक अन्य व्यक्ति के अनुसार Anthropic के निवेशक भी सप्ताहांत भर यह आँकने में जुटे रहे कि व्हाइट हाउस के साथ कंपनी की यह ताज़ा तकरार उसके भविष्य पर क्या असर डालेगी। उस व्यक्ति का कहना है कि कुछ निवेशक मानते हैं कि अमेरिकी सरकार अकेले Anthropic को निशाना बना रही है, और अगर कोई प्रतिद्वंद्वी Mythos जैसा मॉडल जारी करता तो शायद उसे ऐसी प्रतिक्रिया का सामना न करना पड़ता।
व्हाइट हाउस का निर्यात नियंत्रण निर्देश उन दूसरी AI प्रयोगशालाओं के लिए भी बड़े सवाल खड़े करता है जो Mythos के स्तर की क्षमताओं वाले मॉडल जारी करना चाहती हैं, और यह कि वे ऐसा अमेरिकी सरकार के नियमों का पालन करते हुए कैसे करें। TrendKia से बात करने वाले AI लैब नेताओं के अनुसार अब यह उम्मीद की जाने लगी है कि AI प्रयोगशालाएँ अपने उन्नत मॉडलों तक व्हाइट हाउस को पहले से पहुँच दें और मॉडल लॉन्च को लेकर सरकार को सूचित रखने में बेहद सक्रिय रहें।
Canada स्थित एक छोटी AI लैब Cohere, जो उद्यमों के लिए टूल बनाती है, उसके CEO Aidan Gomez कहते हैं, “The events over the weekend … are informative for everyone that the [US] government would be willing to take these steps. No one can be naive to that reality.”
