Anthropic ने क्लोद कोड से हटाया गुप्त ट्रैकिंग सिस्टम, प्राइवेसी पर उठे थे सवाल

सुरक्षा शोधकर्ताओं द्वारा प्राइवेसी संबंधी चिंताएं जाहिर किए जाने के बाद Anthropic ने अपने AI टूल 'क्लोद कोड' से एक छिपा हुआ ट्रैकिंग सिस्टम हटा दिया है। यह सिस्टम उपयोगकर्ताओं के स्थान और संदिग्ध गतिविधियों की निगरानी के लिए इस्तेमाल किया जा रहा था।

Anthropic ने अपने AI कोडिंग असिस्टेंट 'क्लोद कोड' से एक गुप्त ट्रैकिंग मैकेनिज्म को पूरी तरह से हटा दिया है। इस सिस्टम का पता तब चला जब एक सुरक्षा डेवलपर ने पाया कि यह टूल बिना किसी पूर्व सूचना के उपयोगकर्ताओं के लोकेशन, प्रॉक्सी उपयोग और चीन की AI लैब्स से संबंधित संभावित कनेक्शनों को ट्रैक कर रहा था।

ट्रैकिंग का खुलासा और विवाद
जून में 'Thereallo' नाम के एक डेवलपर ने इस फीचर को पकड़ा। उन्होंने बताया कि 'क्लोद कोड' के सिस्टम प्रॉम्प्ट्स में कुछ छिपे हुए संकेत (सिग्नल्स) एम्बेड किए गए थे। इन संकेतों के जरिए Anthropic यह पता लगाने की कोशिश कर रहा था कि क्या कोई उपयोगकर्ता उनकी पाबंदियों को दरकिनार कर रहा है या मॉडल की क्षमताओं को निकालने (डिस्टिलेशन) की कोशिश कर रहा है।

डेवलपर ने स्पष्ट किया कि Anthropic के लिए रीसेलर्स, अनाधिकृत गेटवे और 'डिस्टिलेशन अटैक' को पहचानना जरूरी हो सकता है, लेकिन जिस तरह से इसे लागू किया गया, वह विवादित रहा। क्लोद कोड ने इन ट्रैकिंग सिग्नल्स को यूनिकोड मार्कर्स और एन्कोडेड डोमेन सूचियों के माध्यम से सिस्टम प्रॉम्प्ट के भीतर छुपाया था। इसके बारे में कंपनी ने न तो किसी डॉक्यूमेंटेशन में जानकारी दी थी और न ही रिलीज नोट्स में इसका कोई जिक्र किया था। डेवलपर का मानना है कि यह एक डेवलपर टूल के लिए अजीब फैसला है, क्योंकि ऐसे टूल उपयोगकर्ताओं के भरोसे पर चलते हैं।

Anthropic की सफाई
इस खुलासे के बाद Anthropic के इंजीनियर Thariq Shihipar ने सोशल मीडिया प्लेटफॉर्म X पर जानकारी दी। उन्होंने बताया कि मार्च में इसे एक 'एक्सपेरिमेंट' के तौर पर शुरू किया गया था। इसका मकसद क्लोद को अनाधिकृत रीसेलर्स के दुरुपयोग और डिस्टिलेशन हमलों से बचाना था। Shihipar ने आगे कहा कि उनकी टीम ने अब मजबूत सुरक्षा उपाय लागू कर दिए हैं, इसलिए इस पुराने सिस्टम को हटाने की प्रक्रिया पहले से ही चल रही थी। कंपनी ने इस बदलाव के लिए पुल रिक्वेस्ट मर्ज कर दी थी और इसे पूरी तरह से रोल बैक कर दिया गया है।

AI डिस्टिलेशन और सुरक्षा चिंताएं
यह घटना ऐसे समय में हुई है जब Anthropic लगातार AI मॉडल डिस्टिलेशन के खिलाफ चेतावनी दे रहा है। डिस्टिलेशन वह प्रक्रिया है जिसमें एक सिस्टम के आउटपुट का उपयोग दूसरे AI मॉडल को प्रशिक्षित करने के लिए किया जाता है। हालांकि यह AI अनुसंधान में आम है, लेकिन भू-राजनीतिक दृष्टि से यह राष्ट्रीय सुरक्षा का मुद्दा बन गया है। इसी महीने Alibaba ने अपने कर्मचारियों को 'क्लोद कोड' इस्तेमाल करने से रोक दिया था और इसे सुरक्षा कारणों से 'उच्च जोखिम' वाला सॉफ्टवेयर करार दिया था।

इससे पहले फरवरी में, Anthropic ने DeepSeek, Moonshot AI और MiniMax जैसी चीनी कंपनियों पर आरोप लगाया था कि वे फर्जी अकाउंट्स के जरिए लाखों रिस्पॉन्स निकाल रही हैं ताकि अपने मॉडलों को बेहतर बना सकें। अप्रैल में, Elon Musk ने भी स्वीकार किया था कि xAI ने Grok को ट्रेन करते समय OpenAI के मॉडलों का 'आंशिक' रूप से उपयोग किया था। जून में Anthropic के CEO Dario Amodei ने अमेरिकी कांग्रेस से विदेशी AI एक्सट्रैक्शन के खिलाफ सख्त सुरक्षा नियमों की मांग की थी, जिसमें दावा किया गया था कि Alibaba से जुड़े लोगों ने लगभग 25,000 फर्जी अकाउंट्स का उपयोग करके 2.88 करोड़ क्लोद एक्सचेंजों को अंजाम दिया था।

इसका आप पर असर
सामान्य उपयोगकर्ताओं के लिए: यदि आप क्लोद कोड का उपयोग करते हैं, तो सुनिश्चित करें कि आपका सॉफ्टवेयर हमेशा अपडेटेड है ताकि पुरानी प्राइवेसी सेटिंग्स या ट्रैकिंग कोड का प्रभाव न रहे।

डेवलपर्स के लिए: अपनी प्राइवेसी और डेटा सुरक्षा के प्रति सतर्क रहें और किसी भी थर्ड-पार्टी एआई टूल को इस्तेमाल करने से पहले उसके प्राइवेसी डिस्क्लोजर की जांच करें।

सवाल-जवाब

1. Anthropic ने क्लोद कोड से क्या हटाया है?
Anthropic ने क्लोद कोड से एक गुप्त ट्रैकिंग सिस्टम हटाया है जो उपयोगकर्ताओं के स्थान, प्रॉक्सी उपयोग और संभावित चीनी एआई लैब्स से संबंधों की निगरानी कर रहा था।

2. यह ट्रैकिंग सिस्टम क्यों बनाया गया था?
कंपनी ने इसे अनाधिकृत रीसेलर्स द्वारा दुरुपयोग रोकने और क्लोद मॉडल को 'डिस्टिलेशन अटैक' से सुरक्षित रखने के लिए एक एक्सपेरिमेंट के तौर पर शुरू किया था।

3. यह सिस्टम कैसे काम करता था?
यह सिस्टम कोड के अंदर यूनिकोड मार्कर्स और एन्कोडेड डोमेन सूचियों के माध्यम से छिपे हुए संकेतों का उपयोग करता था।

4. क्या Alibaba ने क्लोद कोड पर कोई प्रतिबंध लगाया है?
हाँ, सुरक्षा चिंताओं के कारण अलीबाबा ने अपने कर्मचारियों के लिए क्लोद कोड को 'उच्च जोखिम' वाला सॉफ्टवेयर बताते हुए उस पर प्रतिबंध लगा दिया था।

https://trendkia.com/ai/anthropic-ne-claude-code-se-hataya-gupt-tracking-system-5616
TrendKia — Har trend, sabse pehle.