सोशल मीडिया दिग्गज मेटा एक बार फिर गंभीर विवादों में घिर गई है। भारत सरकार द्वारा बच्चों से जुड़े अश्लील कंटेंट को लेकर दी गई कड़ी चेतावनी के कुछ ही समय बाद, अमेरिका की एक प्रमुख शोध संस्था की जांच में बेहद चौंकाने वाला खुलासा हुआ है। टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) की एक रिपोर्ट में पाया गया है कि फेसबुक और इंस्टाग्राम पर सैकड़ों ऐसे प्रायोजित विज्ञापन दिखाए गए, जिनमें कृत्रिम बुद्धिमत्ता यानी AI का इस्तेमाल करके बच्चों की असली तस्वीरों से अश्लील और आपत्तिजनक सामग्री तैयार की गई थी। इस खुलासे के बाद मेटा के सुरक्षा दावों और ऑटोमेटेड निगरानी प्रणाली पर गंभीर सवाल खड़े हो गए हैं।
टीटीपी जांच के मुख्य बिंदु और चीनी ऐप्स से कनेक्शन
टेक ट्रांसपेरेंसी प्रोजेक्ट की विस्तृत जांच के अनुसार, मेटा के विभिन्न डिजिटल प्लेटफॉर्मों पर 300 से अधिक AI-जनरेटेड या AI के जरिए फेरबदल किए गए विज्ञापन सक्रिय रूप से चल रहे थे। इन विज्ञापनों में बच्चों की डिजिटल तस्वीरों का धड़ल्ले से इस्तेमाल किया जा रहा था। जांचकर्ताओं ने पाया कि कई मामलों में सार्वजनिक मंचों या सोशल मीडिया पर उपलब्ध बच्चों की सामान्य, असली तस्वीरों को उठाकर AI टूल की मदद से आपत्तिजनक रूप दे दिया गया था।
मामले को और भी चिंताजनक बनाने वाली बात यह है कि इनमें से कई विज्ञापन यूज़र्स को चीन में विकसित किए गए बाहरी AI एप्लिकेशन की ओर रीडायरेक्ट कर रहे थे। ये चीनी AI ऐप्स तथाकथित 'न्यूडीफिकेशन' यानी तस्वीरों को अश्लील रूप देने वाले टूल के रूप में प्रचारित किए जा रहे थे। इस तरह के प्लेटफॉर्म न केवल निजता का हनन करते हैं, बल्कि बच्चों की डिजिटल सुरक्षा के लिए एक बेहद गंभीर खतरा बनकर उभरे हैं।
असली तस्वीरों का AI दुरुपयोग कैसे बना बड़ा खतरा
इस पूरे मामले की सबसे भयावह कड़ी यह है कि कैसे एक सामान्य डिजिटल फोटो को आपराधिक हथियार में बदल दिया जाता है। इंटरनेट या सोशल मीडिया पर उपलब्ध बच्चों की किसी भी सामान्य तस्वीर को असमाजिक तत्व डाउनलोड कर लेते हैं। इसके बाद अत्याधुनिक AI एल्गोरिदम का इस्तेमाल करके उस तस्वीर को विकृत और अश्लील बना दिया जाता है।
इतना ही नहीं, इस आपत्तिजनक कंटेंट को मेटा की विज्ञापन प्रणाली के माध्यम से बड़े पैमाने पर लोगों तक पहुंचाया जाता है। इसका अर्थ यह है कि AI तकनीक ने केवल फर्जी या काल्पनिक कंटेंट बनाने का जोखिम ही नहीं बढ़ाया है, बल्कि इंटरनेट पर मौजूद वास्तविक बच्चों की तस्वीरों के दुरुपयोग और उनके यौन शोषण की आशंका को कई गुना बढ़ा दिया है।
भारत सरकार की सख्ती और पूर्व में दी गई चेतावनी
यह अमेरिकी रिपोर्ट ऐसे समय में आई है जब भारत पहले ही इस विषय पर मेटा के प्रति कड़ा रुख अपना चुका है। कुछ ही हफ्ते पहले भारत सरकार ने मार्क जुकरबर्ग की कंपनी को स्पष्ट निर्देश दिए थे कि फेसबुक और इंस्टाग्राम से बच्चों से जुड़ी तमाम आपत्तिजनक सामग्री को तुरंत प्रभाव से हटाया जाए और भविष्य में ऐसी घटनाओं की पुनरावृत्ति न हो। स्थिति की गंभीरता का अंदाजा इसी बात से लगाया जा सकता है कि मार्क जुकरबर्ग को इस संबंध में सार्वजनिक रूप से माफी भी मांगनी पड़ी थी।
अगस्त के महीने में मेटा की ग्लोबल लीडरशिप टीम ने भारतीय अधिकारियों के साथ एक उच्चस्तरीय बैठक की थी। इस वार्ता के दौरान भारत सरकार ने मेटा को साफ संदेश दिया था कि बाल शोषण या बच्चों के यौन शोषण से जुड़े कंटेंट के मामले में किसी भी प्रकार की कोताही या ढिलाई बर्दाश्त नहीं की जाएगी। इसके अलावा, राष्ट्रीय मानव अधिकार आयोग (NHRC) ने भी इंस्टाग्राम और फेसबुक पर मौजूद अश्लील सामग्री का संज्ञान लेते हुए मेटा तथा 8 भारतीय राज्यों को कारण बताओ नोटिस जारी किया था। भारत सरकार ने यह भी स्पष्ट कर दिया था कि देश में काम करने के लिए भारतीय संविधान और कानूनों का पालन अनिवार्य है, और नियमों का उल्लंघन होने पर आईटी एक्ट के तहत मिलने वाली 'सेफ हार्बर' सुरक्षा हटाई जा सकती है।
मेटा की कार्रवाई और अनुत्तरित सवाल
टीटीपी की विस्तृत रिपोर्ट सार्वजनिक होने के बाद मेटा ने हड़बड़ी में कदम उठाए। रिपोर्ट के अनुसार, कंपनी ने अपनी एड लाइब्रेरी से लगभग 150 विज्ञापनों को तुरंत हटा दिया। इसके अतिरिक्त, पहले से हटाए जा चुके 100 से अधिक विज्ञापनों के रिकॉर्ड को संशोधित करते हुए उन्हें बाल यौन शोषण नीति के उल्लंघन की श्रेणी में वर्गीकृत किया गया।
हालांकि, इस कार्रवाई के बावजूद मुख्य सवाल अभी भी बरकरार है। अगर मेटा के पास इस तरह के संवेदनशील कंटेंट को पहचानने और हटाने की उन्नत तकनीक और संसाधन मौजूद थे, तो ये विज्ञापन महीनों तक उनकी प्रणाली से बचकर कैसे प्रसारित होते रहे? मेटा का यह लचर रवैया साबित करता है कि व्यावसायिक विज्ञापनों से कमाई के चक्कर में बच्चों की डिजिटल सुरक्षा की अनदेखी की गई।
