फेसबुक और इंस्टाग्राम पर AI से बने बच्चों के आपत्तिजनक विज्ञापनों का भंडाफोड़, अमेरिकी एजेंसी TTP की रिपोर्ट में मेटा कटघरे में

अमेरिकी संस्था TTP की जांच में खुलासा हुआ है कि मेटा के फेसबुक और इंस्टाग्राम पर बच्चों की असली तस्वीरों को AI से बदलकर बने 300 से अधिक अश्लील विज्ञापन चलाए जा रहे थे।

सोशल मीडिया दिग्गज मेटा एक बार फिर गंभीर विवादों में घिर गई है। भारत सरकार द्वारा बच्चों से जुड़े अश्लील कंटेंट को लेकर दी गई कड़ी चेतावनी के कुछ ही समय बाद, अमेरिका की एक प्रमुख शोध संस्था की जांच में बेहद चौंकाने वाला खुलासा हुआ है। टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) की एक रिपोर्ट में पाया गया है कि फेसबुक और इंस्टाग्राम पर सैकड़ों ऐसे प्रायोजित विज्ञापन दिखाए गए, जिनमें कृत्रिम बुद्धिमत्ता यानी AI का इस्तेमाल करके बच्चों की असली तस्वीरों से अश्लील और आपत्तिजनक सामग्री तैयार की गई थी। इस खुलासे के बाद मेटा के सुरक्षा दावों और ऑटोमेटेड निगरानी प्रणाली पर गंभीर सवाल खड़े हो गए हैं।

टीटीपी जांच के मुख्य बिंदु और चीनी ऐप्स से कनेक्शन
टेक ट्रांसपेरेंसी प्रोजेक्ट की विस्तृत जांच के अनुसार, मेटा के विभिन्न डिजिटल प्लेटफॉर्मों पर 300 से अधिक AI-जनरेटेड या AI के जरिए फेरबदल किए गए विज्ञापन सक्रिय रूप से चल रहे थे। इन विज्ञापनों में बच्चों की डिजिटल तस्वीरों का धड़ल्ले से इस्तेमाल किया जा रहा था। जांचकर्ताओं ने पाया कि कई मामलों में सार्वजनिक मंचों या सोशल मीडिया पर उपलब्ध बच्चों की सामान्य, असली तस्वीरों को उठाकर AI टूल की मदद से आपत्तिजनक रूप दे दिया गया था।

मामले को और भी चिंताजनक बनाने वाली बात यह है कि इनमें से कई विज्ञापन यूज़र्स को चीन में विकसित किए गए बाहरी AI एप्लिकेशन की ओर रीडायरेक्ट कर रहे थे। ये चीनी AI ऐप्स तथाकथित 'न्यूडीफिकेशन' यानी तस्वीरों को अश्लील रूप देने वाले टूल के रूप में प्रचारित किए जा रहे थे। इस तरह के प्लेटफॉर्म न केवल निजता का हनन करते हैं, बल्कि बच्चों की डिजिटल सुरक्षा के लिए एक बेहद गंभीर खतरा बनकर उभरे हैं।

असली तस्वीरों का AI दुरुपयोग कैसे बना बड़ा खतरा
इस पूरे मामले की सबसे भयावह कड़ी यह है कि कैसे एक सामान्य डिजिटल फोटो को आपराधिक हथियार में बदल दिया जाता है। इंटरनेट या सोशल मीडिया पर उपलब्ध बच्चों की किसी भी सामान्य तस्वीर को असमाजिक तत्व डाउनलोड कर लेते हैं। इसके बाद अत्याधुनिक AI एल्गोरिदम का इस्तेमाल करके उस तस्वीर को विकृत और अश्लील बना दिया जाता है।

इतना ही नहीं, इस आपत्तिजनक कंटेंट को मेटा की विज्ञापन प्रणाली के माध्यम से बड़े पैमाने पर लोगों तक पहुंचाया जाता है। इसका अर्थ यह है कि AI तकनीक ने केवल फर्जी या काल्पनिक कंटेंट बनाने का जोखिम ही नहीं बढ़ाया है, बल्कि इंटरनेट पर मौजूद वास्तविक बच्चों की तस्वीरों के दुरुपयोग और उनके यौन शोषण की आशंका को कई गुना बढ़ा दिया है।

भारत सरकार की सख्ती और पूर्व में दी गई चेतावनी
यह अमेरिकी रिपोर्ट ऐसे समय में आई है जब भारत पहले ही इस विषय पर मेटा के प्रति कड़ा रुख अपना चुका है। कुछ ही हफ्ते पहले भारत सरकार ने मार्क जुकरबर्ग की कंपनी को स्पष्ट निर्देश दिए थे कि फेसबुक और इंस्टाग्राम से बच्चों से जुड़ी तमाम आपत्तिजनक सामग्री को तुरंत प्रभाव से हटाया जाए और भविष्य में ऐसी घटनाओं की पुनरावृत्ति न हो। स्थिति की गंभीरता का अंदाजा इसी बात से लगाया जा सकता है कि मार्क जुकरबर्ग को इस संबंध में सार्वजनिक रूप से माफी भी मांगनी पड़ी थी।

अगस्त के महीने में मेटा की ग्लोबल लीडरशिप टीम ने भारतीय अधिकारियों के साथ एक उच्चस्तरीय बैठक की थी। इस वार्ता के दौरान भारत सरकार ने मेटा को साफ संदेश दिया था कि बाल शोषण या बच्चों के यौन शोषण से जुड़े कंटेंट के मामले में किसी भी प्रकार की कोताही या ढिलाई बर्दाश्त नहीं की जाएगी। इसके अलावा, राष्ट्रीय मानव अधिकार आयोग (NHRC) ने भी इंस्टाग्राम और फेसबुक पर मौजूद अश्लील सामग्री का संज्ञान लेते हुए मेटा तथा 8 भारतीय राज्यों को कारण बताओ नोटिस जारी किया था। भारत सरकार ने यह भी स्पष्ट कर दिया था कि देश में काम करने के लिए भारतीय संविधान और कानूनों का पालन अनिवार्य है, और नियमों का उल्लंघन होने पर आईटी एक्ट के तहत मिलने वाली 'सेफ हार्बर' सुरक्षा हटाई जा सकती है।

मेटा की कार्रवाई और अनुत्तरित सवाल
टीटीपी की विस्तृत रिपोर्ट सार्वजनिक होने के बाद मेटा ने हड़बड़ी में कदम उठाए। रिपोर्ट के अनुसार, कंपनी ने अपनी एड लाइब्रेरी से लगभग 150 विज्ञापनों को तुरंत हटा दिया। इसके अतिरिक्त, पहले से हटाए जा चुके 100 से अधिक विज्ञापनों के रिकॉर्ड को संशोधित करते हुए उन्हें बाल यौन शोषण नीति के उल्लंघन की श्रेणी में वर्गीकृत किया गया।

हालांकि, इस कार्रवाई के बावजूद मुख्य सवाल अभी भी बरकरार है। अगर मेटा के पास इस तरह के संवेदनशील कंटेंट को पहचानने और हटाने की उन्नत तकनीक और संसाधन मौजूद थे, तो ये विज्ञापन महीनों तक उनकी प्रणाली से बचकर कैसे प्रसारित होते रहे? मेटा का यह लचर रवैया साबित करता है कि व्यावसायिक विज्ञापनों से कमाई के चक्कर में बच्चों की डिजिटल सुरक्षा की अनदेखी की गई।

इसका आप पर असर
यह रिपोर्ट सोशल मीडिया का इस्तेमाल करने वाले परिवारों और बच्चों की ऑनलाइन प्राइवेसी पर सीधा असर डालती है।

• भारत में: भारत सरकार सोशल मीडिया नियमों को और सख्त कर सकती है, जिससे टेक कंपनियों की जवाबदेही बढ़ेगी। इसके तहत अनुपालन न करने पर प्लेटफॉर्म्स का सेफ हार्बर स्टेटस खत्म हो सकता है।
• अभिभावकों के लिए: बच्चों की फोटो सोशल मीडिया पर प्राइवेसी सेटिंग्स बिना जांचे अपलोड करने का जोखिम बढ़ गया है। माता-पिता को तुरंत अपने बच्चों के सोशल अकाउंट्स को प्राइवेट करना चाहिए।
• यूज़र्स के लिए: AI-जनरेटेड विज्ञापनों और संदिग्ध लिंक्स पर क्लिक करने से साइबर सुरक्षा संबंधी खतरे हो सकते हैं। यूज़र्स को चीनी ऐप्स या न्यूडीफिकेशन टूल्स का प्रचार करने वाले विज्ञापनों की रिपोर्ट करनी चाहिए।
• डिजिटल प्राइवेसी: सार्वजनिक रूप से उपलब्ध तस्वीरों को स्क्रैप होने से बचाने के लिए सख्त गाइडलाइन्स लागू हो सकती हैं। यूज़र्स को अपनी प्रोफाइल से पुरानी सार्वजनिक तस्वीरें हटाने पर विचार करना चाहिए।

ऐसा क्यों हुआ
मेटा के विज्ञापनों में यह गंभीर खामी AI तकनीक के तेजी से प्रसार और ऑटोमेटेड निगरानी तंत्र की विफलता के कारण सामने आई है। टेक ट्रांसपेरेंसी प्रोजेक्ट की जांच ने उजागर किया कि कैसे व्यावसायिक लाभ के आगे सुरक्षा जांच पिछड़ गई।

• AI टूल्स की सुलभता: जनरेटिव AI और न्यूडीफिकेशन टूल्स का आसानी से उपलब्ध होना इस समस्या की मुख्य वजह बना। असामाजिक तत्वों ने इंटरनेट पर मौजूद बच्चों की सामान्य तस्वीरों को अश्लील कंटेंट में बदलने के लिए इन टूल्स का दुरुपयोग किया।
• विज्ञापन समीक्षा में चूक: मेटा के ऑटोमेटेड ऐड अप्रूवल सिस्टम विज्ञापनों को लाइव करने से पहले उनकी गहन जांच करने में नाकाम रहे। 300 से अधिक आपत्तिजनक विज्ञापन बिना किसी सिस्टम अलर्ट के महीनों तक प्रसारित होते रहे।
• थर्ड-पार्टी ऐप्स का नेटवर्क: चीन में बने AI ऐप्स ने विज्ञापनों का सहारा लेकर यूज़र्स को अपनी ओर आकर्षित किया। इन ऐप्स ने अश्लीलता फैलाने वाले टूल्स को बढ़ावा देने के लिए सोशल मीडिया विज्ञापनों को एक माध्यम के रूप में इस्तेमाल किया।
• निगरानी का अभाव: बाहरी संस्था टीटीपी द्वारा रिपोर्ट सौंपे जाने से पहले मेटा की अपनी सुरक्षा टीम इन विज्ञापनों को चिन्हित नहीं कर सकी। इसके बाद ही मेटा ने 150 विज्ञापनों को हटाया और 100 अन्य रिकॉर्ड्स को बाल शोषण नीति उल्लंघन में वर्गीकृत किया।

सवाल-जवाब

1. TTP रिपोर्ट में मेटा के खिलाफ क्या खुलासे हुए हैं?
रिपोर्ट में पाया गया कि मेटा के फेसबुक और इंस्टाग्राम प्लेटफॉर्म पर 300 से अधिक ऐसे विज्ञापन चले जिनमें AI के जरिए बच्चों की तस्वीरों को अश्लील कंटेंट में बदला गया था।

2. इन विज्ञापनों में बच्चों की तस्वीरों का इस्तेमाल कैसे किया गया?
इंटरनेट पर सार्वजनिक रूप से उपलब्ध बच्चों की असली तस्वीरों को AI टूल की मदद से विकृत किया गया और फिर उन्हें प्रायोजित विज्ञापनों के रूप में चलाया गया।

3. भारत सरकार ने मेटा को क्या चेतावनी दी थी?
भारत सरकार ने मेटा को बच्चों से जुड़े आपत्तिजनक कंटेंट को तुरंत हटाने का निर्देश दिया था और नियम न मानने पर आईटी एक्ट के तहत मिलने वाला सेफ हार्बर स्टेटस हटाने की चेतावनी दी थी।

4. टीटीपी की रिपोर्ट के बाद मेटा ने क्या कार्रवाई की?
मेटा ने अपनी ऐड लाइब्रेरी से लगभग 150 विज्ञापनों को हटाया और 100 से अधिक पुराने विज्ञापनों के रिकॉर्ड को बाल शोषण नीति के उल्लंघन के रूप में रीक्लासिफाई किया।

https://trendkia.com/technology/facebook-aura-instagram-para-ai-se-bane-bachchon-ke-apattijanaka-vijnapanon-ka-bhndaphora-america-ki-ejensi-ttp-ki-riporta-men-met-29715
TrendKia — Har trend, sabse pehle.