हालिया खुलासों के बाद तकनीकी जगत और प्रशासनिक हलकों में हड़कंप मच गया है। शोधकर्ताओं ने पाया कि मेटा के विभिन्न प्लेटफॉर्म्स पर बच्चों की तस्वीरों को मॉर्फ करके एआई की मदद से आपत्तिजनक वीडियो क्लिप में बदला गया। इन विज्ञापनों में एक यूरोपीय शाही परिवार की सदस्य सहित कई वास्तविक नाबालिगों की तस्वीरों का गलत इस्तेमाल किया गया। ऐसे विज्ञापनों पर क्लिक करने पर यूजर्स को एआई आधारित इमेज और वीडियो जनरेशन ऐप्स डाउनलोड करने के लिए प्रेरित किया जाता था, जिनका उपयोग बिना सहमति के अश्लील सामग्री या डिजिटल रूप से कपड़े हटाने वाली तस्वीरें बनाने में किया जा सकता है।
शोधकर्ताओं की चौंकाने वाली खोज और यूरोपीय देशों में प्रसार
टेक ट्रांसपेरेंसी प्रोजेक्ट के शोधकर्ताओं की छानबीन से यह बात सामने आई कि मेटा के प्लेटफॉर्म्स पर ऐसे 350 से ज्यादा विज्ञापन चलाए गए। इनमें से कई विज्ञापन बिल्कुल एक जैसे थे जिन्हें बार-बार अपलोड किया गया था। कुल मिलाकर इन विज्ञापनों ने यूरोपीय संघ के देशों में 29 हजार से अधिक खातों तक पहुंच बनाई। इसके अलावा फेसबुक, इंस्टाग्राम और थ्रेड्स के माध्यम से प्रसारित होने वाले ये विज्ञापन अमेरिका, ऑस्ट्रेलिया और भारत के यूजर्स को भी निशाना बना रहे थे। शुरुआती रिपोर्ट के समय 53 ऐसे विज्ञापनों की पहचान की गई थी, लेकिन उसके बाद भी मेटा के प्लेटफॉर्म्स पर 250 से ज्यादा विज्ञापन लगातार चलते रहे।
प्रशासन की कड़ी चेतावनी और कानूनी नोटिस
सैन फ्रांसिस्को के नगर attorney डेविड चिउ ने इस पूरे मामले पर कड़ा रुख अपनाते हुए मेटा को एक औपचारिक पत्र भेजा है। उन्होंने अपने बयान में कहा कि कंपनी बाल यौन शोषण से जुड़े विज्ञापनों की इस जानी-पहचानी समस्या को सुलझाने में पूरी तरह नाकाम रही है और इसके जरिए मुनाफा कमा रही है। डेविड चिउ ने अपने चार पन्नों के पत्र में मेटा के वकीलों से कहा कि किसी भी कंपनी को, खासकर ऐसी कंपनी को जो यह दावा करती है कि हर विज्ञापन की प्रकाशन से पहले समीक्षा और मंजूरी की जाती है, अपने विज्ञापन तंत्र का इस तरह दुरुपयोग होने की अनुमति नहीं देनी चाहिए। पत्र में मेटा की कानूनी टीम, बाल सुरक्षा विशेषज्ञों और विज्ञापन कर्मचारियों को नगर कार्यालय के साथ तुरंत चर्चा करने के लिए कहा गया है।
मेटा की प्रतिक्रिया और भौगोलिक क्षेत्राधिकार का तर्क
इस पूरे मामले पर प्रतिक्रिया देते हुए मेटा ने दलील दी है कि इस बात का कोई संकेत नहीं मिलता है कि ये विज्ञापन सैन फ्रांसिस्को में दिखाए गए थे, जिसका मतलब है कि यह मामला नगर attorney के अधिकार क्षेत्र से बाहर है। हालांकि मेटा की विज्ञापन लाइब्रेरी में अमेरिका में प्रकाशित विज्ञापनों का कुछ डेटा मौजूद होता है, लेकिन वह यह स्पष्ट नहीं करती है कि अमेरिका में विज्ञापन विशेष रूप से किस स्थान पर चलाए गए थे। कंपनी का यह भी कहना है कि शोधकर्ताओं द्वारा चिन्हित किए जाने से पहले ही कई विज्ञापनों को हटा दिया गया था और अब नीति का उल्लंघन करने वाले सभी विज्ञापनों को पूरी तरह से हटा दिया गया है। मेटा के अनुसार ऐसे अधिकांश विज्ञापनों को खातों से 200 से भी कम इंप्रेशन मिले थे और इन 300 से अधिक विज्ञापनों पर कुल विज्ञापन खर्च 5 हजार डॉलर से भी कम था।
सुरक्षा प्रणालियों की विफलता और जवाबदेही की मांग
नगर attorney के कार्यालय द्वारा भेजे गए पत्र में मांग की गई है कि मेटा अपने प्लेटफॉर्म्स पर इन विज्ञापनों के प्रसारण को तुरंत रोके। इसके साथ ही यह भी स्पष्ट करने को कहा गया है कि ये विज्ञापन सुरक्षा और मॉडरेशन प्रणालियों को चकमा देने में कैसे कामयाब रहे। पत्र में नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन को ऐसे विज्ञापनों की सूचना देने की प्रक्रिया और इस तरह की सामग्री तैयार करने वाले विज्ञापनदाताओं के खिलाफ की गई कार्रवाई का पूरा विवरण मांगा गया है। शोधकर्ताओं के मुताबिक कई मामलों में मेटा ने आपत्तिजनक विज्ञापनों की रिपोर्ट पर एक सप्ताह से अधिक समय तक कोई प्रतिक्रिया नहीं दी, इस दौरान सैकड़ों अन्य लोगों ने उन विज्ञापनों को देख लिया था।
नीतियों के उल्लंघन और बार-बार होने वाली चूक पर सवाल
मेटा की सामुदायिक मानक और विज्ञापन नीतियां बाल यौन शोषण, बाल उत्पीड़न, नग्नता या वयस्क शोषण से जुड़ी सामग्री की बिल्कुल अनुमति नहीं देती हैं। कंपनी का दावा है कि सभी विज्ञापनों की समीक्षा स्वचालित और कभी-कभार मैनुअल तरीकों से की जाती है। इसके बावजूद टेक ट्रांसपेरेंसी प्रोजेक्ट की निदेशक केटी पॉल का कहना है कि मेटा इस समस्या से प्रभावी ढंग से नहीं निपट रही है और उनके प्लेटफॉर्म पर बाल यौन शोषण से जुड़े नए विज्ञापन अब भी सामने आ रहे हैं। संगठन ने इन विज्ञापनों की रिपोर्ट मेटा और संबंधित एजेंसियों को सौंप दी है, जिसके बाद कंपनी से इस पर 28 दिनों के भीतर जवाब देने की मांग की गई है।
