सोशल मीडिया दिग्गज मेटा के विभिन्न प्लेटफॉर्म्स पर बच्चों के यौन शोषण से जुड़ी सामग्री को रोकने के तमाम दावों के बावजूद गंभीर खामियां सामने आई हैं। शोधकर्ताओं का कहना है कि कंपनी द्वारा सुरक्षा के लिए नए आर्टिफिशियल इंटेलिजेंस टूल्स लागू किए जाने के बाद भी इस तरह के आपत्तिजनक विज्ञापन धड़ल्ले से चल रहे हैं। टेक ट्रांसपेरेंसी प्रोजेक्ट के शोधकर्ताओं की एक हालिया रिपोर्ट के अनुसार, पिछले साल के अंत से लेकर अब तक फेसबुक, इंस्टाग्राम, थ्रेड्स और मैसेंजर जैसे प्लेटफॉर्म्स पर बच्चों के यौन शोषण से जुड़े 350 से अधिक वीडियो विज्ञापन प्रसारित किए जा चुके हैं। इनमें से 250 से ज्यादा विज्ञापन अगस्त महीने की शुरुआत के बाद से चलाए गए हैं, जो मेटा की ऑटोमेटेड समीक्षा प्रणाली की प्रभावशीलता पर बड़े सवाल खड़े करते हैं।
असली बच्चों की तस्वीरों का दुरुपयोग और शाही परिवार का मामला
इस बार सामने आए विज्ञापनों और पिछली बार पकड़ी गई सामग्री में एक बड़ा और चिंताजनक अंतर यह है कि इस बार शोधकर्ताओं ने वास्तविक बच्चों की पहचान वाले विज्ञापनों का पता लगाया है। इनमें एक यूरोपीय शाही परिवार के एक नाबालिग सदस्य की आधिकारिक तस्वीर का दुरुपयोग करके उसे कृत्रिम बुद्धिमत्ता की मदद से अश्लील वीडियो में बदल दिया गया था। शोधकर्ताओं ने इस गंभीर मामले की जानकारी संबंधित देश के अधिकारियों को दे दी है और पीड़िता की पहचान गुप्त रखी है। टेक ट्रांसपेरेंसी प्रोजेक्ट की निदेशक केटी पॉल का कहना है कि यह केवल एआई द्वारा बनाई गई सामग्री का मामला नहीं है, बल्कि इंटरनेट से असली तस्वीरें उठाकर उनका दुरुपयोग किया जा रहा है और कंपनी इस प्रक्रिया से भारी कमाई कर रही है।
विज्ञापनों का पैटर्न और ऐप स्टोर से कनेक्शन
जांच में सामने आया है कि इन विज्ञापनों का एक तय पैटर्न होता है। इनमें अक्सर किसी प्री-टीन या किशोर लड़की की सामान्य तस्वीर का इस्तेमाल किया जाता है, जिसके ऊपर लिखा होता है कि यह सिर्फ एक फोटो नहीं है और तस्वीर के साथ कुछ भी करने पर कोई पाबंदी नहीं है। इसके बाद वीडियो शुरू होते ही बच्चों के चेहरों को अश्लील क्लिप्स में बदल दिया जाता है। जब उपयोगकर्ता इन विज्ञापनों पर क्लिक करते हैं, तो उन्हें गूगल और ऐपल के ऐप स्टोर पर मौजूद 'नडिफिकेशन' या एआई फेस-स्वैपिंग ऐप्स डाउनलोड करने के लिए प्रेरित किया जाता है। शोधकर्ताओं ने ऐसे चार नाबालिगों की पहचान की है जिनकी तस्वीरों का गलत इस्तेमाल हुआ, जिनमें तीन अमेरिका से हैं और एक यूरोपीय शाही परिवार की सदस्य हैं। इनमें से कुछ तस्वीरें सोशल मीडिया इन्फ्लुएंजर्स और स्टॉक फोटो वेबसाइट्स से ली गई थीं।
दुनियाभर में हजारों लोगों तक पहुंची आपत्तिजनक सामग्री
मेटा की विज्ञापन लाइब्रेरी के आंकड़ों के अनुसार, ये विज्ञापन यूरोपीय संघ के देशों में 29,000 से अधिक खातों और यूनाइटेड किंगडम में लगभग 7,000 खातों को दिखाए गए थे। इसके अलावा, अमेरिका में 250, ऑस्ट्रेलिया में 120 और भारत में 80 से अधिक बार ये विज्ञापन दिखे, हालांकि भारत में कंपनी विस्तृत विज्ञापन प्रदर्शन डेटा प्रकाशित नहीं करती है। टेक ट्रांसपेरेंसी प्रोजेक्ट के अनुसार, जब उन्होंने लाइव विज्ञापनों की शिकायत की तो मेटा को उन्हें हटाने में एक सप्ताह तक का समय लग गया, और इस दौरान उन विज्ञापनों को सैकड़ों और बार देखा जा चुका था।
कंपनियों और नियामकों की प्रतिक्रिया
मेटा की प्रवक्ता ट्रेसी क्लेटन ने अपने बयान में कहा कि कंपनी बच्चों के शोषण या इस तरह के ऐप्स को बिल्कुल सहन नहीं करती है। उन्होंने दावा किया कि शोधकर्ताओं द्वारा खोजे गए कई विज्ञापनों को पहले ही हटाया जा चुका है और अधिकांश को 200 से कम इंप्रेशन मिले थे, जिस पर कंपनी को बहुत कम विज्ञापन भुगतान प्राप्त हुआ था। वहीं, ऐपल के प्रवक्ता एडम डेमा ने कहा कि ऐप स्टोर को उपयोगकर्ताओं के लिए सुरक्षित रखने के लिए कड़े नियम हैं और जिन डेवलपर्स ने नियमों का उल्लंघन किया, उनके खिलाफ तुरंत कार्रवाई करते हुए ऐप्स को हटा दिया गया है। गूगल के प्रवक्ता डैन जैक्सन ने भी बताया कि उनकी नीति यौन सामग्री की अनुमति नहीं देती है और शिकायत मिलने पर ऐसे सैकड़ों ऐप्स को निलंबित कर दिया गया है।
नियामक जांच और कानूनी मुश्किलें
इस खुलासे के बाद दुनिया भर के कानून निर्माताओं और नियामकों ने जांच शुरू कर दी है। अमेरिकी सीनेटर मार्क वार्नर ने मेटा के मुख्य कार्यकारी अधिकारी मार्क जुकरबर्ग को पत्र लिखकर इन विज्ञापनों पर कड़ी आपत्ति जताई है। इसके अलावा, मिशिगन और फ्लोरिडा के महाधिवक्ता कार्यालयों ने भी इस मामले की जांच करने की बात कही है। ऑस्ट्रेलिया के ई-सेफ्टी नियामक ने भी इन रिपोर्टों पर गहरी चिंता व्यक्त करते हुए कंपनी से इस मामले में स्पष्टीकरण मांगा है। मेटा पहले ही बच्चों को नुकसान पहुंचाने वाले मामलों में मुकदमों को सुलझाने के लिए भारी भरकम राशि का भुगतान कर चुकी है और कई अदालती फैसलों के खिलाफ अपील कर रही है।
