हाल ही में सोशल मीडिया प्लेटफॉर्म्स पर एक अजीबोगरीब और विवादित एआई ऐप क्रोमिक के विज्ञापन देखे गए। खुद को एआई इमेज स्टyler बताने वाले इस ऐप के विज्ञापनों में बिना किसी पाबंदी के काम करने का दावा किया गया था। वीडियो विज्ञापनों में से एक में एक ऐसी महिला को दिखाया गया जो अमेरिका की एक जानी-मानी महिला राजनीतिज्ञ से काफी मिलती-जुलती थी। उसके पीछे अमेरिकी राष्ट्रपति और देश का झंडा भी नजर आ रहा था। उस वीडियो पर व्हाट इफ शी मूव्ड कैप्शन लिखा था और महिला के आंख मारने के बाद वीडियो अश्लील फुटेज में बदल जाता था।
ऐप स्टोर पर मौजूदगी और संदिग्ध फीचर्स
क्रोमिक ऐप को ऐप्पल के ऐप स्टोर पर होस्ट किया गया था। इस ऐप के जरिए भुगतान करने वाले यूजर अपनी तस्वीरें अपलोड कर सकते थे और उन्हें बेडरूम रेप या डिज़्नी लव जैसे आपत्तिजनक परिदृश्यों में ढाल सकते थे। इस ऐप के वीडियो में स्पाइडर-मैन की पोशाक पहनी महिलाओं के भी एआई जनित अश्लील वीडियो शामिल थे। ऐप पर दिए गए संपर्क पते पर जब संदेश भेजे गए तो उनकी तरफ से कोई जवाब नहीं मिला। ऐप्पल अपनी नीतियों के तहत गैर-सहमति वाली अंतरंग सामग्री और अश्लील सामग्री पर रोक लगाता है, लेकिन ऐसे टूल्स को रोकना उसके लिए भी चुनौती साबित होता रहा है। सैन फ्रांसिस्को के सिटी अटॉर्नी ने इस गर्मी की शुरुआत में कंपनी को एक नोटिस भेजकर तेरह ऐसे ऐप्स हटाने की मांग की थी और स्पष्ट डीपफेक छवियों की बिक्री में मदद करने से रोकने को कहा था।
मेटा के विज्ञापन नेटवर्क में सेंध
मेटा की विज्ञापन लाइब्रेरी के आंकड़ों के मुताबिक ये विज्ञापन केवल पुरुष यूजर्स को लक्षित करके चलाए गए थे और उन पर अनलीश नेक्स्ट-जेन एआई मैजिक टैगलाइन लिखी हुई थी। कुल मिलाकर इस अभियान से जुड़े खाते ने बत्तीस विज्ञापन चलाए थे जो पांच से छियालीस घंटों तक सक्रिय रहे। इनमें से अधिकांश विज्ञापनों को दस या उससे कम बार देखा गया था। टेक ट्रांसपेरेंसी प्रोजेक्ट की निदेशक केटी पॉल ने इस पर टिप्पणी करते हुए कहा कि इस तरह के विज्ञापनों का दायरा मुख्य रूप से महिलाओं को यौन रूप से प्रताड़ित करने और उन्हें एआई जनित पोर्न में धकेलने पर केंद्रित है।
राजनीतिक हस्तियों को निशाना बनाने का पुराना चलन
निर्वाचित अधिकारी और राजनेता पिछले कई वर्षों से गैर-सहमति वाले डीपफेक विज्ञापनों और वीडियो का शिकार बनते आ रहे हैं। जनवरी के महीने में जब ग्रोक का इस्तेमाल करके महिलाओं और लड़कियों की लगभग तीस लाख यौनकृत छवियां बनाई गई थीं, तब स्वीडन, इंग्लैंड और उत्तरी आयरलैंड के अधिकारी भी इस तकनीक की चपेट में आए थे। अमेरिकी सनलाइट प्रोजेक्ट के प्रमुख शोधकर्ता बेंजामिन शुल्त्स ने इस मामले पर बात करते हुए बताया कि जैसे-जैसे एआई सामग्री का उत्पादन और वितरण आसान हुआ है, वैसे-वैसे आधिकारिक पोर्ट्रेट और प्रेस कॉन्फ्रेंस के वीडियो जैसे सामान्य माध्यम ऐसे टूल्स का कच्चा माल बन गए हैं जिन्हें इंटरनेट कनेक्शन रखने वाला कोई भी व्यक्ति आसानी से इस्तेमाल कर सकता है।
मेटा की समीक्षा प्रणाली और सुरक्षा दावे
मेटा की सार्वजनिक गाइडलाइंस के अनुसार इंस्टाग्राम और फेसबुक पर किसी भी विज्ञापन के लाइव होने से पहले उसकी समीक्षा की जाती है ताकि यह सुनिश्चित हो सके कि वह कंपनी के नियमों के खिलाफ तो नहीं है। कंपनी के विज्ञापन मानकों में यह बात कही गई है कि उसकी समीक्षा प्रणाली में स्वचालित टूल्स का इस्तेमाल किया जाता है। विज्ञापनों को चलाने वाला यह पेज तीन अगस्त को ही बनाया गया था और उस पर एक भी फॉलोअर नहीं था। ये दोनों ऐसे संकेत थे जो मेटा को सतर्क कर सकते थे कि खाता संदिग्ध है। कंपनी के नियमों के तहत विज्ञापनों में नग्नता या यौन रूप से संवेदनशील सामग्री नहीं हो सकती। इसके बावजूद पिछले कुछ वर्षों से इस तरह के ऐप्स के विज्ञापन लगातार सामने आ रहे हैं।
बचाव के तरीके और कंपनी की प्रतिक्रिया
मेटा में महिलाओं की सुरक्षा की प्रमुख सिंडी साउथवर्थ ने इस विषय पर कहा कि यौन शोषण से निपटना उनकी प्राथमिकता है और वे इसके खिलाफ लगातार काम कर रहे हैं। उन्होंने बताया कि इस दिशा में कंपनी ने पिछले साल के अंत में ही ऐसे विज्ञापनों को हटाया था और नई तकनीक को अपनाया है। विज्ञापनदाता अपनी विज्ञापनों में अश्लील सामग्री को छिपाने के लिए समुद्र तट, पहाड़ों या झरने जैसी तस्वीरों का कवर फोटो के रूप में इस्तेमाल करते हैं। ऐप्पल के एक प्रवक्ता ने पुष्टि की कि उन्होंने क्रोमिक ऐप को ऐप स्टोर से हटा दिया है क्योंकि उसने शुरुआती समीक्षा के बाद प्रतिबंधित सामग्री को शामिल कर लिया था।
