टेक ट्रांसपेरेंसी प्रोजेक्ट की जांच में खुलासा: मेटा के प्लेटफॉर्म्स पर चले एआई जनरेटेड चाइल्ड एब्यूज विज्ञापन

टेक ट्रांसपेरेंसी प्रोजेक्ट की निदेशक केटी पॉल ने इस लापरवाही पर गहरी चिंता जताते हुए कहा कि इन विज्ञापनों ने अपनी छवियों या उद्देश्य को छिपाने की कोई कोशिश नहीं की। उन्होंने स्पष्ट किया कि यह सामग्री किसी सामान्य यूजर द्वारा पोस्ट नहीं की गई थी, बल्कि ये सशुल्क विज्ञापन थे जिन्हें मेटा की समीक्षा प्रणाली द्वारा पास किया गया, मंजूरी दी गई और बिना किसी रुकावट के चलाया गया, जबकि कंपनी उनसे मुनाफा कमाती रही।

विज्ञापनों की कार्यप्रणाली और आपत्तिजनक कंटेंट के उदाहरण

शोधकर्ताओं द्वारा खोजे गए ये सभी आपत्तिजनक विज्ञापन पिछले वर्ष नवंबर से इस वर्ष अगस्त की शुरुआत के बीच प्रकाशित किए गए थे। मेटा के स्वयं के पारदर्शिता आंकड़ों के अनुसार, ये विज्ञापन कई दिनों तक लगातार चलते रहे और इनमें से कुछ विज्ञापनों को केवल पुरुष दर्शकों को लक्षित करके तैयार किया गया था। यद्यपि अब मेटा ने अपनी बाल यौन शोषण, बाल उत्पीड़न और वयस्क यौन आग्रह से जुड़ी नीतियों के उल्लंघन का हवाला देते हुए इन विज्ञापनों को हटा दिया है, लेकिन इनका अस्तित्व कई महीनों तक बना रहा।

खोजे गए विज्ञापनों में से एक वीडियो विज्ञापन में फर्श पर बैठी एक छोटी बच्ची के थंबनेल चित्र का उपयोग किया गया था, जिस पर लिखा था कि 'जनरेशन एआई के साथ गहरी कल्पनाओं को पूरा करें, यहां जो दिख रहा है उससे कहीं अधिक है, अपनी कल्पना का उपयोग करें'। जांचकर्ताओं ने पाया कि जब यूजर इस विज्ञापन पर क्लिक करते थे, तो इसमें पहले वयस्कों के यौन कृत्यों का वीडियो प्ले होता था और फिर उस थंबनेल वाली बच्ची के चेहरे को एआई तकनीक द्वारा उन यौन कृत्यों में जोड़ दिया जाता था।

एक अन्य विज्ञापन में, जिसे बार-बार पोस्ट किया गया था, एक छोटी बच्ची की आपत्तिजनक स्थिति में तस्वीर दिखाई गई थी जिसके ऊपर लिखा हुआ था कि 'मैं आपको और दिखा सकती हूं'। इसके अलावा, जांच के दौरान एक ऐसा वीडियो विज्ञापन भी सामने आया जिसमें एक बच्ची अपने होठों पर लिप ग्लॉस लगाती दिखती है, लेकिन जैसे ही वीडियो प्ले होता है, वह एआई परिवर्तन के जरिए बच्चे के साथ यौन कृत्य में बदल जाता है।

स्वचालित मॉडरेशन की असफलता और सिस्टम की कमियां

मेटा की आधिकारिक नीतियों के अनुसार, प्रत्येक विज्ञापन को प्रकाशित करने से पहले समीक्षित किया जाता है। कंपनी का दावा है कि वह इस समीक्षा प्रक्रिया के लिए प्राथमिक रूप से स्वचालित टूल का उपयोग करती है जो विज्ञापनों को उसके विज्ञापन मानकों के अनुसार जांचते हैं। मेटा के नियम स्पष्ट रूप से कहते हैं कि बाल यौन शोषण सामग्री की अनुमति नहीं है और जब भी कंपनी को इसकी जानकारी मिलती है, वह नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन (NCMEC) को इसकी रिपोर्ट देती है। इसके अलावा, नियमों के तहत किसी भी प्रकार की नग्नता, यौन गतिविधियों, या उकसाने वाले दृश्यों वाले विज्ञापनों पर सख्त प्रतिबंध है।

तमाम दावों के बावजूद, TTP शोधकर्ताओं द्वारा पाए गए विज्ञापनों को मेटा की एड लाइब्रेरी में महीनों तक बिना किसी बाधा के देखा जा सकता था। हालांकि प्रारंभिक जांच में लगभग दो दर्जन विज्ञापन मिले थे, लेकिन कुछ ही घंटों बाद शोधकर्ताओं को 30 से अधिक अतिरिक्त विज्ञापन मिले। चिंताजनक बात यह रही कि इनमें से कई विज्ञापन तब भी लाइव थे और उपयोगकर्ताओं को दिखाए जा रहे थे, जब कंपनी के समक्ष इस मुद्दे को उठाया जा चुका था।

शोधकर्ताओं ने यह भी नोट किया कि इनमें से कई विज्ञापन बिल्कुल वैसे ही थे जिन्हें मेटा ने अतीत में नीति उल्लंघन के कारण हटाया था। केटी पॉल ने सवाल उठाया कि अगर मेटा का अपना सिस्टम समान विज्ञापनों की पहचान करने के बावजूद उन्हें दोबारा चलने से नहीं रोक पाता, तो यह बाल शोषण को रोकने के प्रति उनकी गंभीरता पर बड़े सवाल खड़े करता है। इसके अतिरिक्त, मेटा की एड लाइब्रेरी में ऐसा कोई रिपोर्टिंग टूल मौजूद नहीं है जिससे यूजर उन विज्ञापनों की शिकायत कर सकें जो वर्तमान में बंद हो चुके हैं लेकिन लाइब्रेरी में पड़े हुए हैं।

भौगोलिक पहुंच, दर्शक वर्ग और डेटा की सीमित दृश्यता

भले ही जब शोधकर्ताओं ने इन विज्ञापनों को पाया, तब अधिकांश विज्ञापन सक्रिय रूप से यूजर्स को नहीं दिखाए जा रहे थे, फिर भी वे महीनों तक मेटा की एड लाइब्रेरी में दर्ज रहे। डेटा से पता चलता है कि यूरोप में एक अकेले विज्ञापन की पहुंच 2,563 खातों तक हुई थी, जिनमें फ्रांस, जर्मनी, आयरलैंड, इटली, नीदरलैंड, स्पेन, स्वीडन और ब्रिटेन जैसे देश शामिल हैं।

मेटा का एड लाइब्रेरी डेटाबेस अमेरिका और कुछ अन्य गैर-यूरोपीय देशों में विज्ञापनों के प्रदर्शन की पूरी जानकारी सार्वजनिक नहीं करता, जिससे विशेषज्ञों का मानना है कि इन विज्ञापनों की वास्तविक पहुंच रिपोर्ट की गई संख्या से कहीं अधिक हो सकती है। टेक ट्रांसपेरेंसी प्रोजेक्ट ने इन निष्कर्षों को तुरंत नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन की साइबरटिपलाइन पर जमा कराया, जो ऑनलाइन बाल शोषण सामग्री की रिपोर्ट दर्ज करती है।

व्यवसायिक नेटवर्क: रीसेलर्स, चीनी डेवलपर्स और ऐप स्टोर्स की भूमिका

TTP की जांच से यह भी पता चला कि इन विज्ञापनों को पोस्ट करने वाले अधिकांश फेसबुक अकाउंट्स के फॉलोअर्स की संख्या शून्य या बेहद कम थी। जहां विज्ञापनदाताओं की पहचान उजागर हुई, वहां उनके तार अक्सर चीनी कंपनियों से जुड़े मिले। उदाहरण के लिए, लेटी हुई बच्ची वाले विज्ञापन का डेटा दर्शाता है कि उसका विज्ञापनदाता 'मीट सोशल' नामक एक चीनी फर्म थी। मीट सोशल पूर्व में मेटा की एक आधिकारिक एड रीसेलर रह चुकी है, जो चीन में विज्ञापन व्यवसाय संभालती है जहां फेसबुक और इंस्टाग्राम जैसे प्लेटफॉर्म्स प्रतिबंधित हैं। कंपनी के कॉर्पोरेट खुलासों के अनुसार, यह रोजाना फेसबुक पर हजारों विज्ञापन पोस्ट करती थी और अरबों डॉलर का कारोबार संभालती थी।

इसके अतिरिक्त, कई विज्ञापनों में 'मास्कएआई' (MaskAI) नामक ऐप का लिंक दिया गया था, जो एप्पल के ऐप स्टोर पर उपलब्ध था। इस ऐप का डेवलपर भी एक चीनी सॉफ्टवेयर निर्माता था। ऐप स्टोर की शुरुआती लिस्टिंग में कोई नग्नता नहीं दिखती थी, लेकिन डाउनलोड करने के बाद ऐप खोलने पर इसमें पूरी तरह से एआई जनरेटेड पोर्नोग्राफी और लोगों की तस्वीरों के चेहरे बदलकर यौन स्थितियों में डालने की सुविधाएं (फेस-स्वैप) मौजूद थीं। मामला संज्ञान में आने के बाद, एप्पल ने न्यूडिफिकेशन ऐप्स के खिलाफ अपनी नीति का उल्लंघन करने के लिए मास्कएआई को ऐप स्टोर से तुरंत हटा दिया।

उद्योग प्रतिक्रिया, पार्टनर टूल्स और प्लेटफॉर्म्स की जवाबदेही

पूछताछ के बाद मेटा ने अपनी एड लाइब्रेरी से इन सभी विज्ञापनों को हटा दिया और कहा कि बाल शोषण एक भयानक अपराध है जिसे रोकने के लिए वह लगातार कदम उठा रही है। मेटा प्रवक्ता का कहना था कि अधिकतर विज्ञापनों की पहुंच बहुत कम थी और कई को पहले ही निष्क्रिय कर दिया गया था। कंपनी ने यह भी तर्क दिया कि इनमें से अधिकांश विज्ञापन उनके द्वारा हाल ही में लॉन्च की गई नई एआई पहचान तकनीक से पहले के हैं। मेटा ने बताया कि उसने पिछले वर्ष बाल यौन शोषण से संबंधित 3.6 करोड़ से अधिक सामग्री को अपने प्लेटफॉर्म्स से हटाया है और न्यूडिफाई ऐप डेवलपर्स के खिलाफ कानूनी कार्रवाई भी की है।

मेटा के संदर्भ में ऑनलाइन सुरक्षा संगठन 'टेक कोएलिशन' के निवर्तमान सीईओ शॉन लिटन ने बताया कि कंपनी ने उनके 'लैंटर्न' टूल के माध्यम से उल्लंघन करने वाले हजारों यूआरएल साझा किए हैं, जिससे विभिन्न टेक कंपनियां सुरक्षा डेटा आपस में साझा कर पाती हैं। इसी तरह, ब्रिटेन की 'रिवेंज पोर्न हेल्पलाइन' ने भी गैर-सहमति वाली तस्वीरों को रोकने के लिए मेटा के 'StopNCII.org' प्रयासों की सराहना की, हालांकि उन्होंने स्वीकार किया कि न्यूडिफाई ऐप्स एक बेहद कठिन और तेजी से विकसित होने वाली चुनौती हैं।

डिजिटल डिसेप्शन पब्लिकेशन 'इंडिकेटर' के सह-संस्थापक और गूगल के पूर्व ट्रस्ट एंड सेफ्टी वर्कर एलेक्सियोस मंत्ज़ार्लिस ने खुलासा किया कि उन्होंने अकेले मेटा के प्लेटफॉर्म्स पर 25,000 से अधिक न्यूडिफायर विज्ञापनों की पहचान कर रिपोर्ट की है। हालांकि मेटा का कहना है कि उसने 3.44 लाख से अधिक न्यूडिफायर विज्ञापनों को हटाया है और हांगकांग की कंपनियों पर मुकदमे चलाए हैं, लेकिन मंत्ज़ार्लिस का कहना है कि विज्ञापनदाता फर्जी अकाउंट्स और नए डोमेन बनाकर सिस्टम को आसानी से चकमा दे रहे हैं। उन्होंने चेतावनी दी कि टेक प्लेटफॉर्म्स के ढीले प्रवर्तन के कारण इमेज आधारित यौन उत्पीड़न का यह उद्योग अब इंटरनेट का एक स्थायी हिस्सा बनता जा रहा है।