सैन फ्रांसिस्को ने मेटा को दिए सख्त निर्देश, एआई आधारित बाल उत्पीड़न विज्ञापनों पर तुरंत रोक लगाने की मांग

सैन फ्रांसिस्को के नगर attorney ने मेटा को एक कानूनी नोटिस भेजकर सोशल मीडिया प्लेटफॉर्म्स पर चलने वाले एआई जनित बाल उत्पीड़न विज्ञापनों को पूरी तरह रोकने का आदेश दिया है। जांचकर्ताओं ने खुलासा किया है कि ऐसे सैकड़ों विज्ञापन फेसबुक, इंस्टाग्राम और थ्रेड्स पर प्रसारित हुए हैं।

हालिया खुलासों के बाद तकनीकी जगत और प्रशासनिक हलकों में हड़कंप मच गया है। शोधकर्ताओं ने पाया कि मेटा के विभिन्न प्लेटफॉर्म्स पर बच्चों की तस्वीरों को मॉर्फ करके एआई की मदद से आपत्तिजनक वीडियो क्लिप में बदला गया। इन विज्ञापनों में एक यूरोपीय शाही परिवार की सदस्य सहित कई वास्तविक नाबालिगों की तस्वीरों का गलत इस्तेमाल किया गया। ऐसे विज्ञापनों पर क्लिक करने पर यूजर्स को एआई आधारित इमेज और वीडियो जनरेशन ऐप्स डाउनलोड करने के लिए प्रेरित किया जाता था, जिनका उपयोग बिना सहमति के अश्लील सामग्री या डिजिटल रूप से कपड़े हटाने वाली तस्वीरें बनाने में किया जा सकता है।

शोधकर्ताओं की चौंकाने वाली खोज और यूरोपीय देशों में प्रसार
टेक ट्रांसपेरेंसी प्रोजेक्ट के शोधकर्ताओं की छानबीन से यह बात सामने आई कि मेटा के प्लेटफॉर्म्स पर ऐसे 350 से ज्यादा विज्ञापन चलाए गए। इनमें से कई विज्ञापन बिल्कुल एक जैसे थे जिन्हें बार-बार अपलोड किया गया था। कुल मिलाकर इन विज्ञापनों ने यूरोपीय संघ के देशों में 29 हजार से अधिक खातों तक पहुंच बनाई। इसके अलावा फेसबुक, इंस्टाग्राम और थ्रेड्स के माध्यम से प्रसारित होने वाले ये विज्ञापन अमेरिका, ऑस्ट्रेलिया और भारत के यूजर्स को भी निशाना बना रहे थे। शुरुआती रिपोर्ट के समय 53 ऐसे विज्ञापनों की पहचान की गई थी, लेकिन उसके बाद भी मेटा के प्लेटफॉर्म्स पर 250 से ज्यादा विज्ञापन लगातार चलते रहे।

प्रशासन की कड़ी चेतावनी और कानूनी नोटिस
सैन फ्रांसिस्को के नगर attorney डेविड चिउ ने इस पूरे मामले पर कड़ा रुख अपनाते हुए मेटा को एक औपचारिक पत्र भेजा है। उन्होंने अपने बयान में कहा कि कंपनी बाल यौन शोषण से जुड़े विज्ञापनों की इस जानी-पहचानी समस्या को सुलझाने में पूरी तरह नाकाम रही है और इसके जरिए मुनाफा कमा रही है। डेविड चिउ ने अपने चार पन्नों के पत्र में मेटा के वकीलों से कहा कि किसी भी कंपनी को, खासकर ऐसी कंपनी को जो यह दावा करती है कि हर विज्ञापन की प्रकाशन से पहले समीक्षा और मंजूरी की जाती है, अपने विज्ञापन तंत्र का इस तरह दुरुपयोग होने की अनुमति नहीं देनी चाहिए। पत्र में मेटा की कानूनी टीम, बाल सुरक्षा विशेषज्ञों और विज्ञापन कर्मचारियों को नगर कार्यालय के साथ तुरंत चर्चा करने के लिए कहा गया है।

मेटा की प्रतिक्रिया और भौगोलिक क्षेत्राधिकार का तर्क
इस पूरे मामले पर प्रतिक्रिया देते हुए मेटा ने दलील दी है कि इस बात का कोई संकेत नहीं मिलता है कि ये विज्ञापन सैन फ्रांसिस्को में दिखाए गए थे, जिसका मतलब है कि यह मामला नगर attorney के अधिकार क्षेत्र से बाहर है। हालांकि मेटा की विज्ञापन लाइब्रेरी में अमेरिका में प्रकाशित विज्ञापनों का कुछ डेटा मौजूद होता है, लेकिन वह यह स्पष्ट नहीं करती है कि अमेरिका में विज्ञापन विशेष रूप से किस स्थान पर चलाए गए थे। कंपनी का यह भी कहना है कि शोधकर्ताओं द्वारा चिन्हित किए जाने से पहले ही कई विज्ञापनों को हटा दिया गया था और अब नीति का उल्लंघन करने वाले सभी विज्ञापनों को पूरी तरह से हटा दिया गया है। मेटा के अनुसार ऐसे अधिकांश विज्ञापनों को खातों से 200 से भी कम इंप्रेशन मिले थे और इन 300 से अधिक विज्ञापनों पर कुल विज्ञापन खर्च 5 हजार डॉलर से भी कम था।

सुरक्षा प्रणालियों की विफलता और जवाबदेही की मांग
नगर attorney के कार्यालय द्वारा भेजे गए पत्र में मांग की गई है कि मेटा अपने प्लेटफॉर्म्स पर इन विज्ञापनों के प्रसारण को तुरंत रोके। इसके साथ ही यह भी स्पष्ट करने को कहा गया है कि ये विज्ञापन सुरक्षा और मॉडरेशन प्रणालियों को चकमा देने में कैसे कामयाब रहे। पत्र में नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन को ऐसे विज्ञापनों की सूचना देने की प्रक्रिया और इस तरह की सामग्री तैयार करने वाले विज्ञापनदाताओं के खिलाफ की गई कार्रवाई का पूरा विवरण मांगा गया है। शोधकर्ताओं के मुताबिक कई मामलों में मेटा ने आपत्तिजनक विज्ञापनों की रिपोर्ट पर एक सप्ताह से अधिक समय तक कोई प्रतिक्रिया नहीं दी, इस दौरान सैकड़ों अन्य लोगों ने उन विज्ञापनों को देख लिया था।

नीतियों के उल्लंघन और बार-बार होने वाली चूक पर सवाल
मेटा की सामुदायिक मानक और विज्ञापन नीतियां बाल यौन शोषण, बाल उत्पीड़न, नग्नता या वयस्क शोषण से जुड़ी सामग्री की बिल्कुल अनुमति नहीं देती हैं। कंपनी का दावा है कि सभी विज्ञापनों की समीक्षा स्वचालित और कभी-कभार मैनुअल तरीकों से की जाती है। इसके बावजूद टेक ट्रांसपेरेंसी प्रोजेक्ट की निदेशक केटी पॉल का कहना है कि मेटा इस समस्या से प्रभावी ढंग से नहीं निपट रही है और उनके प्लेटफॉर्म पर बाल यौन शोषण से जुड़े नए विज्ञापन अब भी सामने आ रहे हैं। संगठन ने इन विज्ञापनों की रिपोर्ट मेटा और संबंधित एजेंसियों को सौंप दी है, जिसके बाद कंपनी से इस पर 28 दिनों के भीतर जवाब देने की मांग की गई है।

इसका आप पर असर
यह मामला सोशल मीडिया पर विज्ञापनों की सुरक्षा और मॉडरेशन की विश्वसनीयता पर गंभीर सवाल खड़े करता है, जिसका असर डिजिटल प्लेटफॉर्म्स का उपयोग करने वाले आम यूजर्स और परिवारों पर पड़ सकता है।

• भारत में: भारत जैसे बड़े यूजर बेस वाले देशों में मेटा के प्लेटफॉर्म्स पर एआई आधारित विज्ञापनों की निगरानी और सुरक्षा नियमों को अधिक सख्त किए जाने की मांग जोर पकड़ सकती है।
• सैन फ्रांसिस्को में: स्थानीय प्रशासन और कानूनी अधिकारियों द्वारा तकनीकी कंपनियों पर जवाबदेही तय करने के लिए सख्त प्रशासनिक और कानूनी कदम उठाए जा रहे हैं।
• यूजर्स के लिए: सोशल मीडिया पर आने वाले लुभावने एआई ऐप्स और विज्ञापनों के प्रति उपयोगकर्ताओं को अधिक सतर्क रहने की आवश्यकता है ताकि वे किसी भी ऑनलाइन धोखाधड़ी या डिजिटल उत्पीड़न से बच सकें।
• विज्ञापनदाताओं के लिए: कंपनियों को अपनी विज्ञापन नीतियों और स्वचालित फ़िल्टरिंग सिस्टम को उन्नत करने के लिए मजबूर होना पड़ेगा ताकि इस तरह की आपत्तिजनक सामग्री का प्रसार रोका जा सके।

ऐसा क्यों हुआ
यह घटना डिजिटल विज्ञापन प्रणालियों की तकनीकी कमियों और एआई के दुरुपयोग के कारण सामने आई है, जिसने ऑनलाइन सुरक्षा के दावों की पोल खोल दी है।

• एआई तकनीक का दुरुपयोग: जनरेटिव एआई टूल्स और अनधिकृत ऐप्स के प्रसार के कारण किसी भी व्यक्ति की तस्वीर का उपयोग करके आपत्तिजनक या फर्जी सामग्री तैयार करना आसान हो गया है।
• ऑटोमेटेड मॉडरेशन की नाकामी: मेटा के विज्ञापन फ़िल्टर और स्वचालित समीक्षा प्रणाली इन विज्ञापनों को प्रारंभिक चरण में ही रोकने में विफल रहे, जिससे बार-बार आपत्तिजनक सामग्री अपलोड होती रही।
• लापरवाही और वित्तीय लाभ: शोधकर्ताओं के अनुसार कंपनियों की विज्ञापन प्रणालियों में लूपहोल का फायदा उठाकर विज्ञापनदाताओं ने कम लागत में आपत्तिजनक सामग्री का व्यापक प्रसार किया।
• नियामक अंतराल: भौगोलिक सीमाओं और डिजिटल विज्ञापनों के डेटा ट्रैकिंग में स्पष्टता की कमी के कारण ऐसे मामलों में तुरंत कानूनी कार्रवाई करना जटिल हो जाता है।

सवाल-जवाब

1. सैन फ्रांसिस्को के नगर attorney ने मेटा को क्या निर्देश दिए हैं?
नगर attorney ने मेटा को एआई आधारित बाल उत्पीड़न विज्ञापनों को तुरंत रोकने और अपनी सुरक्षा प्रणालियों पर जवाब देने का आदेश दिया है।

2. इन आपत्तिजनक विज्ञापनों की खोज किसने की थी?
इन विज्ञापनों की खोज टेक ट्रांसपेरेंसी प्रोजेक्ट के शोधकर्ताओं द्वारा की गई थी।

3. ये विज्ञापन किन प्लेटफॉर्म्स पर चलाए गए थे?
ये विज्ञापन फेसबुक, इंस्टाग्राम और थ्रेड्स जैसे मेटा के प्लेटफॉर्म्स पर प्रसारित किए गए थे।

4. कितने विज्ञापनों की पहचान की गई थी?
शोधकर्ताओं और मीडिया रिपोर्टों के अनुसार मेटा के प्लेटफॉर्म्स पर कुल 350 से अधिक ऐसे विज्ञापन चलाए गए थे।

5. मेटा ने इस मामले पर क्या प्रतिक्रिया दी है?
मेटा का कहना है कि अधिकांश विज्ञापनों को पहले ही हटा दिया गया है और ये विज्ञापन सैन फ्रांसिस्को के अधिकार क्षेत्र से बाहर थे।

https://trendkia.com/ai/san-francisco-directs-meta-to-halt-ai-child-abuse-ads-immediately-30569
TrendKia — Har trend, sabse pehle.