Anthropic ने अपने AI कोडिंग असिस्टेंट 'क्लोद कोड' से एक गुप्त ट्रैकिंग मैकेनिज्म को पूरी तरह से हटा दिया है। इस सिस्टम का पता तब चला जब एक सुरक्षा डेवलपर ने पाया कि यह टूल बिना किसी पूर्व सूचना के उपयोगकर्ताओं के लोकेशन, प्रॉक्सी उपयोग और चीन की AI लैब्स से संबंधित संभावित कनेक्शनों को ट्रैक कर रहा था।
ट्रैकिंग का खुलासा और विवाद
जून में 'Thereallo' नाम के एक डेवलपर ने इस फीचर को पकड़ा। उन्होंने बताया कि 'क्लोद कोड' के सिस्टम प्रॉम्प्ट्स में कुछ छिपे हुए संकेत (सिग्नल्स) एम्बेड किए गए थे। इन संकेतों के जरिए Anthropic यह पता लगाने की कोशिश कर रहा था कि क्या कोई उपयोगकर्ता उनकी पाबंदियों को दरकिनार कर रहा है या मॉडल की क्षमताओं को निकालने (डिस्टिलेशन) की कोशिश कर रहा है।
डेवलपर ने स्पष्ट किया कि Anthropic के लिए रीसेलर्स, अनाधिकृत गेटवे और 'डिस्टिलेशन अटैक' को पहचानना जरूरी हो सकता है, लेकिन जिस तरह से इसे लागू किया गया, वह विवादित रहा। क्लोद कोड ने इन ट्रैकिंग सिग्नल्स को यूनिकोड मार्कर्स और एन्कोडेड डोमेन सूचियों के माध्यम से सिस्टम प्रॉम्प्ट के भीतर छुपाया था। इसके बारे में कंपनी ने न तो किसी डॉक्यूमेंटेशन में जानकारी दी थी और न ही रिलीज नोट्स में इसका कोई जिक्र किया था। डेवलपर का मानना है कि यह एक डेवलपर टूल के लिए अजीब फैसला है, क्योंकि ऐसे टूल उपयोगकर्ताओं के भरोसे पर चलते हैं।
Anthropic की सफाई
इस खुलासे के बाद Anthropic के इंजीनियर Thariq Shihipar ने सोशल मीडिया प्लेटफॉर्म X पर जानकारी दी। उन्होंने बताया कि मार्च में इसे एक 'एक्सपेरिमेंट' के तौर पर शुरू किया गया था। इसका मकसद क्लोद को अनाधिकृत रीसेलर्स के दुरुपयोग और डिस्टिलेशन हमलों से बचाना था। Shihipar ने आगे कहा कि उनकी टीम ने अब मजबूत सुरक्षा उपाय लागू कर दिए हैं, इसलिए इस पुराने सिस्टम को हटाने की प्रक्रिया पहले से ही चल रही थी। कंपनी ने इस बदलाव के लिए पुल रिक्वेस्ट मर्ज कर दी थी और इसे पूरी तरह से रोल बैक कर दिया गया है।
AI डिस्टिलेशन और सुरक्षा चिंताएं
यह घटना ऐसे समय में हुई है जब Anthropic लगातार AI मॉडल डिस्टिलेशन के खिलाफ चेतावनी दे रहा है। डिस्टिलेशन वह प्रक्रिया है जिसमें एक सिस्टम के आउटपुट का उपयोग दूसरे AI मॉडल को प्रशिक्षित करने के लिए किया जाता है। हालांकि यह AI अनुसंधान में आम है, लेकिन भू-राजनीतिक दृष्टि से यह राष्ट्रीय सुरक्षा का मुद्दा बन गया है। इसी महीने Alibaba ने अपने कर्मचारियों को 'क्लोद कोड' इस्तेमाल करने से रोक दिया था और इसे सुरक्षा कारणों से 'उच्च जोखिम' वाला सॉफ्टवेयर करार दिया था।
इससे पहले फरवरी में, Anthropic ने DeepSeek, Moonshot AI और MiniMax जैसी चीनी कंपनियों पर आरोप लगाया था कि वे फर्जी अकाउंट्स के जरिए लाखों रिस्पॉन्स निकाल रही हैं ताकि अपने मॉडलों को बेहतर बना सकें। अप्रैल में, Elon Musk ने भी स्वीकार किया था कि xAI ने Grok को ट्रेन करते समय OpenAI के मॉडलों का 'आंशिक' रूप से उपयोग किया था। जून में Anthropic के CEO Dario Amodei ने अमेरिकी कांग्रेस से विदेशी AI एक्सट्रैक्शन के खिलाफ सख्त सुरक्षा नियमों की मांग की थी, जिसमें दावा किया गया था कि Alibaba से जुड़े लोगों ने लगभग 25,000 फर्जी अकाउंट्स का उपयोग करके 2.88 करोड़ क्लोद एक्सचेंजों को अंजाम दिया था।
