सोमवार को मैनहट्टन जिला अट्टॉर्नी कार्यालय की ओर से एक बड़ी कार्रवाई की जानकारी सामने आई, जिसके तहत 12 ऐसे डोमेन को जब्त कर लिया गया जिनका इस्तेमाल सेलिब्रिटी डीपफेक वीडियो को गैरकानूनी तरीके से साझा करने, प्रकाशित करने और बेचने के लिए किया जा रहा था। इस कार्रवाई के दायरे में लगभग 1,200 लोग आए, जिनमें भारी बहुमत महिलाओं का है, जिनकी बिना सहमति के अंतरंग तस्वीरें और वीडियो इन वेबसाइटों पर अपलोड किए गए थे। इन प्रभावित हस्तियों में सोशल मीडिया इंफ्लुएंसर, फिल्म अभिनेता, कार्यकर्ता, एथलीट, संगीतकार और राजनेता शामिल हैं, जिन्हें इस गंभीर निजता के उल्लंघन का सामना करना पड़ा।
जिला अट्टॉर्नी Alvin Bragg ने अपने बयान में इस बात पर जोर दिया कि निजता के ये भयानक उल्लंघन पीड़ितों के पेशेवर और निजी जीवन का पीछा करते हैं और उनकी भावनात्मक तथा मानसिक सेहत पर गहरा असर डालते हैं। उन्होंने संभावित पीड़ितों से आगे आने और अपने कार्यालय के साइबरक्राइम ब्यूरो से संपर्क करने की अपील भी की। अट्टॉर्नी कार्यालय के मुताबिक, इन वेबसाइटों के संचालन के लिए जिम्मेदार लोगों की पहचान करने के साथ-साथ उन व्यक्तियों की तलाश के लिए भी जांच जारी है जिन्होंने पीड़ितों के आपत्तिजनक वीडियो अपलोड किए थे।
न्यूज़ीलैंड और अमेरिका के आपराधिक प्रक्रिया कानूनों के तहत की गई ये जब्ती कार्रवाई, साल 2017 के अंत में इस तकनीक के उद्भव के बाद से स्पष्ट डीपफेक वीडियो होस्ट करने वाली वेबसाइटों के खिलाफ अब तक के सबसे महत्वपूर्ण और व्यापक कदमों में से एक मानी जा रही है। जैसे-जैसे आर्टिफिशियल इंटेलिजेंस तकनीक में सुधार हुआ है, वेबसाइटों, ऐप्स और बॉट्स का एक काला उद्योग उभरकर सामने आया है, जो महिलाओं की तस्वीरों को अवांछित रूप से बदलने या उनके चेहरे वाले ग्राफिक यौन वीडियो तैयार करने के लिए बनाए गए हैं। ये तस्वीरें और वीडियो तेजी से अधिक यथार्थवादी होते जा रहे हैं और इन्हें कुछ ही सेकंड में तैयार किया जा सकता है।
भले ही डीपफेक तकनीक का उपयोग आम महिलाओं और लड़कियों के खिलाफ बड़े पैमाने पर किया जाता है, जिन्हें अक्सर निजी सोशल मीडिया समूहों में साझा किया जाता है, लेकिन मशहूर हस्तियों ने भी इस सामग्री के संपर्क में आने से होने वाले कई नुकसानों और इसे हटवाने में आने वाली कठिनाइयों पर खुलकर अपनी बात रखी है। हालांकि डीपफेक के खिलाफ कानून बनने की गति धीमी रही है, लेकिन अमेरिकी Take It Down Act के तहत अब छवियों को हटाने की अनुमति लगातार बढ़ रही है, और इस कानून का एक हिस्सा कानून प्रवर्तन अधिकारियों को वेबसाइटों को जब्त करने और बंद करने का अधिकार देता है।
मैनहट्टन जिला अट्टॉर्नी कार्यालय ने उन वेबसाइटों के नाम सार्वजनिक नहीं किए हैं जिन्हें जब्त किया गया है। हालांकि, Alvin Bragg की इस घोषणा से पहले, पिछले सप्ताह के अंत में कई साइटों के होमपेज को टेकडाउन नोटिस से बदला हुआ देखा गया, जिन पर लिखा था कि इस डोमेन को जब्त कर लिया गया है, और अब ये साइटें न्यूयॉर्क स्टेट सुप्रीम कोर्ट द्वारा जारी जब्ती वारंट के बाद अपने नियंत्रण में लिए जाने की बात कह रही हैं।
Institute for Strategic Dialogue (ISD) की शोधकर्ता Leonie Oehmig का कहना है कि सिंथेटिक गैर-सहमति वाली अंतरंग सामग्री (NCII) के खिलाफ लड़ाई में ये टेकडाउन एक बड़ी जीत हैं। Leonie Oehmig का मानना है कि राज्य के कानूनों का सख्ती से पालन यह साबित करता है कि इस हानिकारक सामग्री से निपटा जा सकता है, और यदि अन्य स्थानों से वीपीएन का उपयोग करके इन तक पहुँचने का प्रयास किया जाए तो जब्त की गई साइटें उपलब्ध नहीं होती हैं। उनका कहना है कि यह दर्शाता है कि सार्थक और समन्वित प्रवर्तन तब भी संभव है जब खुद नियम विभिन्न न्यायक्षेत्रों में बिखरे हुए हों।
अनुमान है कि इन वेबसाइटों को लाखों बार देखा गया होगा। इनमें से कई ने ऐसे नामों का इस्तेमाल किया जिनमें 'सेक्स सेलिब्रिटी' जैसे वाक्यांश शामिल थे या जो असली डीपफेक का वादा करती थीं। उन्होंने दुनिया की कुछ सबसे प्रसिद्ध हस्तियों के झूठे वीडियो होस्ट किए, जिनमें से एक साइट पर यह तक लिखा था कि विभिन्न अभिनेत्रियों के चेहरों का इस्तेमाल डीपफेक के लिए किया जाता है।
ये वीडियो कई मिनट तक लंबे हो सकते थे और इनमें पूरी तरह से यौन रूप से स्पष्ट दृश्य होते थे, जिसमें अक्सर मूल अभिनेताओं के बजाय मशहूर हस्तियों या सार्वजनिक शख्सियतों के चेहरों को मौजूदा पोर्नोग्राफिक वीडियो में बदल दिया जाता था। वेबसाइटों के संग्रहित संस्करणों से पता चलता है कि कुछ वीडियो को दसियों हज़ार बार देखा जा चुका था, और इनमें से एक वेबसाइट ने तो 2018 से ऑनलाइन होने का दावा भी किया था।
गैर-लाभकारी संगठन American Sunlight Project के मुख्य शोधकर्ता Benjamin Shultz के अनुसार, अधिकांश वीडियो वास्तविक पोर्नोग्राफिक फिल्मों के रूप में थे, जिन्हें मूल अभिनेताओं के स्थान पर लक्षित व्यक्तियों के चेहरे दिखाने के लिए हेरफेर करके तैयार किया गया था। Benjamin Shultz, जो राजनीतिक हस्तियों के खिलाफ डीपफेक दुरुपयोग का दस्तावेजीकरण कर रहे हैं और इस शोध के दौरान कुछ वेबसाइटों के संपर्क में आए थे, का कहना है कि कई वीडियो ऐसी सामग्री की प्रतिकृतियां प्रतीत होते थे जिन्हें मूल रूप से MrDeepFakes वेबसाइट पर साझा किया गया था, जो कि एक कुख्यात डीपफेक प्लेटफॉर्म था और जिसे इसके रचनाकारों के पत्रकारों द्वारा बेनकाब किए जाने के बाद ऑफलाइन कर दिया गया था।
Benjamin Shultz बताते हैं कि कम से कम दो जब्त की गई वेबसाइटों पर, निर्वाचित अधिकारियों को उनके नाम और पद के साथ एक प्रोफ़ाइल दी गई थी, जिसमें उनकी समानता वाले हेरफेर किए गए वीडियो का एक ग्रिड भी शामिल था। हालिया शोध के माध्यम से, Benjamin Shultz का यह भी कहना है कि 56 यूरोपीय राजनेताओं का इन वेबसाइटों पर उल्लेख किया गया था या वे इन पर दिखाई दिए थे, जिनमें 16 अमेरिकी राजनेता और दो ब्रिटेन के राजनेता शामिल हैं।
भले ही ISD की शोधकर्ता Leonie Oehmig इन कार्रवाइयों को उत्साहजनक मानती हैं, लेकिन डीपफेक उद्योग के कई अन्य हिस्से ऐसे हैं जो गंभीर नुकसान पहुँचा रहे हैं। Leonie Oehmig का सुझाव है कि प्रभावी हस्तक्षेप के लिए पूरे पारिस्थितिकी तंत्र को कई स्तरों पर लक्षित करने की आवश्यकता है, जिसमें सिंथेटिक NCII के निर्माण के लिए उपयोग किए जाने वाले उपकरण, उनकी खोज और प्रचार, उन्हें ऑनलाइन बनाए रखने वाला होस्टिंग और तकनीकी बुनियादी ढांचा, तथा भुगतान और संबद्ध प्रणालियाँ शामिल हैं जो ऑपरेटरों को उनसे कमाई करने में सक्षम बनाती हैं।
