लगभग एक दशक पहले आतंकवादी संगठन इस्लामिक स्टेट ने एक बेहद वीभत्स वीडियो जारी किया था, जिसमें लोहे के पिंजरे में बंद पुरुषों को स्विमिंग पूल के पानी में डुबोकर मारते हुए दिखाया गया था। आज उसी खौफनाक दृश्य को टिकटॉक पर कार्टून के रूप में फिर से तैयार किया गया है। इस नए डिजिटल वीडियो में नारंगी रंग के कपड़ों में बंद मछलियों के पिंजरे को स्पॉन्जबॉब स्क्वायरपैंट्स नामक कार्टून पात्र पानी में नीचे उतारता है, जबकि स्क्विडवर्ड नाम का पात्र इस पूरे घटनाक्रम की रिकॉर्डिंग करता नजर आता है। यह नया वीडियो उस व्यापक ऑनलाइन रणनीति का हिस्सा है, जिसे विशेषज्ञ अब नए दौर का डिजिटल कट्टरपंथ करार दे रहे हैं।
इंसटीट्यूट ऑफ स्ट्रैटेजिक डायलॉग (आईएसडी) द्वारा जारी एक व्यापक शोध रिपोर्ट में इस नए रुझान को 'स्लॉप जिहाद' नाम दिया गया है। रिपोर्ट के अनुसार आईएसआईएस और अल-कायदा जैसे चरमपंथी संगठनों से सहानुभूति रखने वाले युवा अब जनरेटिव एआई टूल्स की मदद से फैन एडिट्स, एनिमेटेड कार्टून और इंटरनेट मीम्स तैयार कर रहे हैं। इन दृश्य सामग्रियों का मुख्य उद्देश्य सोशल मीडिया पर सक्रिय युवाओं की नई पीढ़ी को आकर्षित करना और उनका कट्टरपंथीकरण करना है। शोध में कहा गया है कि यह बदलाव इंटरनेट पर चरमपंथी प्रोपेगैंडा के पारंपरिक स्वरूप और शैली में एक बहुत बड़े बदलाव का संकेत देता है।
चरमपंथी प्रचार की बदलती शैली और सुरक्षा चुनौतियां
संयुक्त राष्ट्र द्वारा समर्थित संस्था 'टेक अगेंस्ट टेररिज्म' के कार्यकारी निदेशक एडम हैडली का कहना है कि ऑनलाइन प्लेटफॉर्म्स पर इस प्रकार की सामग्री का बढ़ता दायरा और विविधता बेहद चिंताजनक है। एआई द्वारा तैयार की गई यह अत्यधिक आकर्षक और मनोरंजक सामग्री हिंसक उग्रवादी विचारों को कम उम्र के दर्शकों तक आसानी से पहुंचा देती है। पारंपरिक आतंकी प्रतीकों और ब्रांडिंग को छिपाकर तैयार की गई यह सामग्री आम सोशल मीडिया उपयोगकर्ताओं के फीड में मनोरंजन के रूप में दिखाई देती है। जब कोई उपयोगकर्ता अनजाने में इन कार्टूनों या मीम्स को देखता है, तो प्लेटफॉर्म्स के एल्गोरिदम उसे धीरे-धीरे अधिक गंभीर और प्रत्यक्ष प्रोपेगैंडा की ओर धकेलने लगते हैं।
ऐतिहासिक रूप से चरमपंथी संगठन अपनी बात व्यापक जनता तक पहुंचाने के लिए हमेशा नई तकनीकों और मीडिया माध्यमों को अपनाते रहे हैं। साल 2020 के शुरुआती दशक में देखा गया 'ऑल्ट जिहाद' आंदोलन इसका एक प्रमुख उदाहरण था, जिसमें कट्टरपंथियों ने पश्चिमी राइट-विंग संस्कृति की शैली और प्रतीकों को चुराकर अपने प्रचार में इस्तेमाल किया था। इसके अलावा चरमपंथी समूह लंबे समय से जनरेटिव एआई तकनीक का प्रयोग भी कर रहे हैं। उदाहरण के तौर पर साल 2024 में इस्लामिक स्टेट से जुड़े 'न्यूज हार्वेस्ट' नामक समाचार कार्यक्रम ने एआई जनरेटेड न्यूज एंकर्स का उपयोग करके प्रोपेगैंडा वीडियो बेहद तेजी से और कम लागत में बनाने शुरू कर दिए थे।
एनिमेशन, कार्टून और वैचारिक मतभेद
मौजूदा समय में जनरेटिव एआई की मदद से बनाई जा रही सामग्री की बनावट और उसका स्वरूप पहले के मुकाबले काफी अलग है। आईएसडी में वैश्विक उग्रवाद और आतंकवाद विरोधी मामलों के शोध प्रमुख मुस्तफा अयाद का कहना है कि यह प्रवृत्ति अभी शुरुआती चरण में है और तेजी से बढ़ रही है। अतीत में भी इंटरनेट पर समर्थकों द्वारा घटिया दर्जे की सामग्री बनाई जाती थी, लेकिन ऐसा कभी नहीं हुआ कि स्पॉन्जबॉब जैसे लोकप्रिय बच्चों के कार्टून पात्रों को इस्लामिक स्टेट के रूप में पेश किया गया हो।
आजकल एआई टूल्स का इस्तेमाल करके चरमपंथी समूहों के आधिकारिक बयानों और साहित्यों को तुरंत एनिमेशन में तब्दील किया जा रहा है। शोध के दौरान टिकटॉक पर एक ऐसा अकाउंट पाया गया जो आईएसआईएस के साप्ताहिक समाचार पत्र 'अल-नबा' के लेखों को जापानी 'एनिमे' कार्टून में बदल रहा था। हालांकि इस नए 'स्लॉप जिहाद' रुझान को कट्टरपंथी समूहों के भीतर पारंपरिक विचारधारा वाले समर्थकों के विरोध का भी सामना करना पड़ रहा है। कई पुराने समर्थक इन एआई-जनरेटेड कार्टूनों को नापसंद करते हैं क्योंकि उनका मानना है कि इन्हें बनाने वाले सच्चे धार्मिक समर्थक नहीं हैं। इसके बावजूद कई ऐसे पुराने अकाउंट्स भी देखे गए हैं जो पारंपरिक प्रोपेगैंडा के साथ-साथ इन एआई-जनरेटेड नए वीडियो को भी शेयर कर रहे हैं।
अल्गोरिदम का खेल और सोशल प्लेटफॉर्म्स की भूमिका
ऑनलाइन प्रोपेगैंडा अभियानों के प्रसार में टिकटॉक लंबे समय से एक प्रमुख केंद्र बना हुआ है। प्लेटफॉर्म की शक्तिशाली सिफारिश प्रणाली (एल्गोरिदम) सामग्री को तेजी से वायरल करने में मदद करती है। वर्ष 2024 में ऑर्गनाइजेशन फॉर इकोनॉमिक कोऑपरेशन एंड डेवलपमेंट (ओईसीडी) की एक रिपोर्ट में भी टिकटॉक को उन शीर्ष 10 प्लेटफॉर्म्स में शामिल किया गया था जिनका उपयोग आतंकवादी और चरमपंथी सामग्री फैलाने के लिए किया जाता है।
यद्यपि इंस्टाग्राम और फेसबुक जैसे अन्य सोशल मीडिया प्लेटफॉर्म्स पर भी एआई-जनरेटेड कट्टरपंथी वीडियो के कुछ मामले मिले हैं, लेकिन इनकी सबसे बड़ी संख्या टिकटॉक पर देखी गई है। शोधकर्ताओं ने टिकटॉक पर 71 अलग-अलग अकाउंट्स से जारी 150 ऐसे स्लॉप जिहाद वीडियो की पहचान की, जिन्हें 54 लाख (5.4 मिलियन) से अधिक बार देखा जा चुका था। मुस्तफा अयाद का मानना है कि टिकटॉक के 'फॉर यू पेज' का विशेष एल्गोरिदम उपयोगकर्ता की व्यक्तिगत रुचियों के आधार पर अत्यधिक केंद्रित सामग्री पेश करता है, जिससे कट्टरपंथी नेटवर्क को नए दर्शकों तक पहुंचने में आसानी होती है।
प्लेटफॉर्म की सफाई और कंटेंट मॉडरेशन के दावे
मामला सामने आने के बाद टिकटॉक के प्रवक्ता ने शोध रिपोर्ट के निष्कर्षों और कार्यप्रणाली पर सवाल उठाए। टिकटॉक का कहना है कि यह रिपोर्ट अस्पष्ट तरीकों पर आधारित है और इसमें प्रस्तुत निष्कर्ष उपयोगकर्ताओं के वास्तविक व्यवहार को नहीं दर्शाते। कंपनी के अनुसार प्लेटफॉर्म पर हिंसक और नफरत फैलाने वाले संगठनों की उपस्थिति पूरी तरह प्रतिबंधित है। इसके लिए आधुनिक मॉडरेशन तकनीक, समर्पित सुरक्षा टीमों और बाहरी साझेदारों की मदद से आपत्तिजनक सामग्री को खुद ही हटा दिया जाता है। टिकटॉक ने पुष्टि की कि रिपोर्ट में उल्लेखित सभी आपत्तिजनक वीडियो को हटा दिया गया है।
वॉशिंगटन इंस्टीट्यूट फॉर नियर ईस्ट पॉलिसी के शोधकर्ता ऐरोन ज़ेलिन ने बताया कि जनरेटिव एआई की वजह से आम उपयोगकर्ताओं के लिए कट्टरपंथी छवियों और प्रतीकों में बदलाव करना बेहद आसान हो गया है। कई लोग विचारधारा से ज्यादा ट्रोलिंग, ऑनलाइन तमाशा बनाने या कुख्याति हासिल करने के लिए भी ऐसी सामग्री बना रहे हैं। टेक कंपनियों द्वारा अकाउंट्स बंद किए जाने के बावजूद कट्टरपंथी तत्व बैकअप अकाउंट्स के जरिए मॉडरेशन सिस्टम और ऑटोमेटेड एआई डिटेक्शन को चकमा देने में सफल हो रहे हैं।
