यूरोपीय संघ में चैटजीपीटी के टेक्स्ट पर अदृश्य वॉटरमार्क लगाएगी ओपनएआई

यूरोपीय संघ के नए एआई नियमों का पालन करने के लिए ओपनएआई चैटजीपीटी और कोडेक्स से बने टेक्स्ट में गुप्त वॉटरमार्किंग तकनीक शुरू कर रही है।

कृत्रिम बुद्धिमत्ता के क्षेत्र में काम करने वाली कंपनी ओपनएआई ने यूरोपीय संघ के भीतर चैटजीपीटी और कोडेक्स द्वारा तैयार की गई सामग्री पर एक अदृश्य वॉटरमार्क जोड़ने का फैसला किया है। कंपनी ने एक आधिकारिक ब्लॉग पोस्ट में घोषणा करते हुए स्पष्ट किया कि यह कदम यूरोपीय संघ के एआई कानून के पारदर्शिता नियमों के अनुपालन के लिए उठाया जा रहा है। ये नियम 2 अगस्त को लागू हुए थे, जिसके तहत कंपनियों को यह अनिवार्य किया गया है कि वे एआई द्वारा तैयार सामग्री को इस तरह चिह्नित करें जिसे अन्य प्रणालियां आसानी से पहचान सकें।

वॉटरमार्किंग का दायरा और एपीआई उपलब्धता
ओपनएआई के अनुसार, आने वाले कुछ हफ्तों के दौरान यह तकनीक यूरोपीय संघ के भीतर मौजूद चैटजीपीटी और कोडेक्स के सभी स्तरों के उपयोगकर्ताओं के लिए शुरू की जाएगी। हालांकि, यह सुविधा केवल यूरोपीय संघ तक ही सीमित रहेगी और इसे वैश्विक स्तर पर डिफॉल्ट रूप में लागू नहीं किया जा रहा है। इसके साथ ही, दुनिया भर के डेवलपर्स जो ओपनएआई के एपीआई का उपयोग करते हैं, वे चुनिंदा मॉडल्स के लिए इसे खुद चालू कर सकते हैं, क्योंकि एपीआई पर यह विकल्प पहले से बंद रहेगा।

तकनीक कैसे काम करती है: टेक्स्टग्रेन का गणित
यह वॉटरमार्क किसी दृश्य प्रतीक या लोगो के रूप में दिखाई नहीं देता, बल्कि यह मॉडल के शब्दों के चयन के पैटर्न को बेहद सूक्ष्म तरीके से प्रभावित करता है। इससे एक ऐसा स्वरूप बनता है जिसे सामान्य पाठक नहीं देख सकते, लेकिन एक समर्पित डिटेक्टर टूल उसे तुरंत पहचान सकता है। चूंकि यह पैटर्न सीधे शब्दों की बनावट में शामिल होता है, इसलिए टेक्स्ट को कॉपी और पेस्ट करने के बाद भी यह मौजूद रहता है। कंपनी ने यह भी स्पष्ट किया कि यह वॉटरमार्क उपयोगकर्ता की व्यक्तिगत पहचान को उजागर नहीं करता है और इसे चालू रखने पर मॉडल की कार्यक्षमता पर कोई नकारात्मक प्रभाव नहीं पड़ता है।

इस घोषणा के साथ ही ओपनएआई ने यूनिवर्सिटी ऑफ पेंसिल्वेनिया और येल के शोधकर्ताओं के सहयोग से तैयार की गई एक तकनीकी रिपोर्ट भी जारी की है। इस पद्धति को टेक्स्टग्रेन नाम दिया गया है। रिपोर्ट में समझाया गया है कि किस प्रकार एक गुप्त कोड या की का उपयोग करके अगले शब्द के अनुमानों को क्रमबद्ध किया जाता है। जब किसी वाक्य या अनुच्छेद में ऐसे सैकड़ों सूक्ष्म बदलाव आपस में जुड़ते हैं, तो डिटेक्टर केवल उस टेक्स्ट और सीक्रेट की के आधार पर एआई निर्मित सामग्री को पकड़ने में सक्षम हो जाता है।

क्या इसे संपादन से हटाया जा सकता है?
कंपनी के परीक्षणों से संकेत मिलता है कि संपादन के जरिए इस वॉटरमार्क का प्रभाव कम या खत्म किया जा सकता है। एक परीक्षण में पाया गया कि जब कुल शब्दों के केवल 10 प्रतिशत हिस्से को पर्यायवाची शब्दों से बदल दिया गया, तो डिटेक्शन की सटीकता लगभग 92 प्रतिशत से गिरकर 66 प्रतिशत पर आ गई। इसके अलावा छोटे वाक्यों, गणितीय समाधानों और अनुवादित सामग्री में भी इस वॉटरमार्क को पकड़ना काफी कठिन साबित होता है।

 “इन सीमाओं के कारण ही हमने डिटेक्टर का शुरुआती एक्सेस केवल अनुमोदित शोधकर्ताओं और विशेषज्ञ संगठनों को देने का निर्णय लिया है, जो इसकी विश्वसनीयता का मूल्यांकन करने में मदद कर सकें।”
ओपनएआई ने यह चेतावनी भी दी है कि किसी टेक्स्ट में वॉटरमार्क का न होना यह साबित नहीं करता कि उसे किसी इंसान ने लिखा है। संभव है कि वह सामग्री बहुत छोटी हो, अत्यधिक संपादित की गई हो या किसी अन्य कंपनी के मॉडल द्वारा तैयार की गई हो। वॉटरमार्क केवल यह संकेत दे सकता है कि ओपनएआई की प्रणाली ने उस सामग्री का कुछ हिस्सा तैयार या प्रोसेस किया है, लेकिन यह कभी नहीं बता सकता कि उस कार्य में मानव रचनात्मकता या निर्णय का कितना योगदान था।

उद्योग में प्रतिस्पर्धा और नियामक प्रतिबद्धताएं
यह कदम ऐसे समय में सामने आया है जब कुछ समय पहले एंथ्रोपिक ने अपने क्लॉड मॉडल द्वारा तैयार किए जाने वाले टेक्स्ट को वैश्विक स्तर पर वॉटरमार्क करने की घोषणा की थी। उस फैसले पर कई उपयोगकर्ताओं ने तीखी प्रतिक्रिया दी थी और तर्क दिया था कि वे निर्देश, संदर्भ और निर्णय खुद देते हैं, जबकि मॉडल केवल एक साधन की तरह काम करता है। ओपनएआई ने पहले भी टेक्स्ट वॉटरमार्किंग तकनीक तैयार की थी, लेकिन इसे इस चिंता के चलते रोक कर रखा गया था कि उपयोगकर्ता उन प्रतिस्पर्धी टूल्स की ओर जा सकते हैं जो वॉटरमार्क नहीं लगाते हैं। वर्तमान में गूगल, मेटा, माइक्रोसॉफ्ट, एंथ्रोपिक और ओपनएआई जैसी प्रमुख कंपनियां एआई सामग्री की पारदर्शिता से जुड़ी यूरोपीय संघ की आचार संहिता का पालन करने के लिए प्रतिबद्ध हैं।

इसका आप पर असर
यूरोपीय संघ में एआई द्वारा तैयार सामग्री की पहचान और प्रामाणिकता के नियम अब सीधे उपयोगकर्ताओं के दैनिक काम को प्रभावित करेंगे।

• सामग्री की पहचान: यूरोपीय संघ के भीतर चैटजीपीटी से तैयार की गई सामग्री में अब अदृश्य वॉटरमार्क शामिल रहेगा। इसका मतलब यह है कि शैक्षणिक संस्थान या कार्यालय विशेष डिटेक्टर से यह पहचान सकेंगे कि टेक्स्ट एआई द्वारा लिखा गया है।
• वैश्विक उपयोगकर्ताओं पर प्रभाव: यूरोपीय संघ से बाहर के सामान्य उपयोगकर्ताओं के चैटजीपीटी अकाउंट्स पर यह वॉटरमार्क अभी लागू नहीं होगा। डेवलपर्स चाहें तो एपीआई सेटिंग्स में जाकर इसे खुद सक्रिय कर सकते हैं या बंद रख सकते हैं।
• संपादन और निष्पक्षता: साधारण बदलावों या 10 प्रतिशत समानार्थी शब्दों के इस्तेमाल से डिटेक्शन की संभावना घट जाती है। फिर भी उपयोगकर्ताओं को यह ध्यान रखना होगा कि केवल टेक्स्ट पेस्ट करने पर उसकी एआई उत्पत्ति पकड़ी जा सकती है।
• गोपनीयता और प्रदर्शन: यह तकनीक उपयोगकर्ताओं के किसी भी व्यक्तिगत डेटा या पहचान को ट्रैक नहीं करती है। मॉडल की गति या काम करने की क्षमता में किसी प्रकार की गिरावट नहीं आएगी।

ऐसा क्यों हुआ
यूरोपीय संघ द्वारा लागू किए गए कड़े तकनीकी नियमों के कारण ओपनएआई को अपने सिस्टम में अदृश्य पहचान प्रणाली जोड़नी पड़ी है।

• नियामक अनुपालन: यूरोपीय संघ के एआई कानून के तहत 2 अगस्त से पारदर्शिता के सख्त नियम लागू हुए थे। इन नियमों के अनुसार कंपनियों को कानूनी रूप से यह सुनिश्चित करना अनिवार्य था कि एआई जनरेटेड कंटेंट की पहचान संभव हो।
• तकनीकी तत्परता: ओपनएआई ने येल और पेंसिल्वेनिया विश्वविद्यालय के शोधकर्ताओं के साथ मिलकर टेक्स्टग्रेन प्रणाली विकसित की थी। यह प्रणाली मॉडल के प्रदर्शन को धीमा किए बिना टेक्स्ट में क्रिप्टोग्राफिक पैटर्न जोड़ने की अनुमति देती है।
• उद्योग जगत का दबाव: एंथ्रोपिक द्वारा क्लॉड के लिए वैश्विक स्तर पर वॉटरमार्किंग घोषित किए जाने और यूरोपीय संघ की आचार संहिता पर हस्ताक्षर के बाद ओपनएआई पर इसे लागू करने का दबाव बढ़ गया था।

सवाल-जवाब

1. क्या चैटजीपीटी का वॉटरमार्क सामान्य पाठकों को दिखाई देगा?
नहीं, यह वॉटरमार्क किसी प्रतीक या लोगो के रूप में नहीं दिखता बल्कि शब्दों के सूक्ष्म चयन पैटर्न पर आधारित होता है जिसे केवल विशेष डिटेक्टर पहचान सकते हैं।

2. क्या यह नया नियम पूरी दुनिया के उपयोगकर्ताओं पर लागू होगा?
नहीं, यह डिफ़ॉल्ट रूप से केवल यूरोपीय संघ के चैटजीपीटी और कोडेक्स उपयोगकर्ताओं पर लागू होगा, जबकि वैश्विक डेवलपर्स इसे एपीआई पर मैन्युअल रूप से चालू कर सकते हैं।

3. क्या टेक्स्ट में बदलाव करके वॉटरमार्क को हटाया जा सकता है?
हां, यदि टेक्स्ट के लगभग 10 प्रतिशत शब्दों को बदल दिया जाए तो डिटेक्शन की दर 92 प्रतिशत से घटकर 66 प्रतिशत तक आ जाती है।

4. क्या इस वॉटरमार्क से उपयोगकर्ता की पहचान उजागर होती है?
नहीं, कंपनी ने स्पष्ट किया है कि यह वॉटरमार्क उपयोगकर्ता की व्यक्तिगत पहचान को रिकॉर्ड नहीं करता है।

https://trendkia.com/ai/european-union-men-chatgpt-ke-teksta-para-adrishya-votaramarka-lagaegi-openai-43552
TrendKia — Har trend, sabse pehle.