शिक्षकों को निशाना बना रहे डीपफेक, एआई से बनाई गई आपत्तिजनक तस्वीरों से सहमे शिक्षक

यह अन्य छात्रों तक भी फैल सकता है

टेक्स्ट मिलने के बाद, डीसैंटियागो ने यह पता लगाना शुरू किया कि इस तस्वीर के पीछे कौन हो सकता है। जिस अकाउंट से इसे शेयर किया गया था, उसने अपनी टिक टॉक प्रोफाइल में अपने असली नाम का इस्तेमाल किया था - यह एक ऐसा छात्र था जिसे डीसैंटियागो स्थानीय मिडिल स्कूल से जानते थे, जहां वे नियमित रूप से सब्स्टिट्यूट के तौर पर पढ़ाते थे। उस अकाउंट को फॉलो करने वाले लोगों और छात्र मित्रों के समूहों के आधार पर डीसैंटियागो को अन्य दो छात्रों की संलिप्तता का संदेह हुआ। उन्हें अगले दिन उसी मिडिल स्कूल में काम करने जाना था।

डीसैंटियागो ने इस घटना की सूचना उप-प्राचार्य को दी, जिन्होंने उन्हें आश्वासन दिया कि स्कूल इस मामले को संभाल लेगा। उसी शाम बाद में, उन्होंने टिक टॉक पर अपना नाम खोजकर तस्वीर को ढूंढने का फैसला किया। उन्हें पता चला कि एक अन्य छात्र ने उनकी नकल करते हुए एक अकाउंट बना लिया है - जिसमें उनके नाम की थोड़ी सी वर्तनी बदलकर इस्तेमाल की गई थी और उनकी तस्वीर ही प्रोफाइल पिक्चर के रूप में लगाई गई थी।

डीसैंटियागो का कहना है कि अगले कुछ हफ्तों तक वे स्कूल प्रशासन, छात्रों के माता-पिता और यहां तक कि पुलिस के चक्कर काटते रहे। उन्होंने प्रधानाचार्य को लिखे पत्र में कहा कि यदि ये छात्र उनकी ऐसी तस्वीरें बनाने और पोस्ट करने से नहीं डरते हैं, तो उन्हें इस बात की चिंता है कि वे टेक्स्ट संदेशों और ग्रुप चैट के माध्यम से निजी तौर पर क्या-क्या प्रसारित कर रहे होंगे। उन्होंने यह भी ध्यान दिलाया कि इसमें अन्य छात्र भी शामिल हो सकते हैं।

एक छात्र, जिसने तस्वीर बनाने की बात कबूल कर ली थी, उसे स्कूल के भीतर ही सस्पेंड करके अनुशासनात्मक कार्रवाई का सामना करना पड़ा। डीसैंटियागो को बाद में बताया गया कि वह तस्वीर स्नैपचैट पर भी साझा की गई थी। लेकिन डीसैंटियागो का कहना है कि तस्वीर फैलती रही और अन्य छात्रों ने भी इसे पोस्ट करना शुरू कर दिया। उन्होंने बताया कि उन्हें उनके टिक टॉक अकाउंट पर कई भद्दे और यौन टिप्पणियां भी मिलीं।

डीसैंटियागो ने प्रशासकों से कहा कि जब तक इस मामले का पूरी तरह समाधान नहीं हो जाता, वे मिडिल स्कूल में कोई असाइनमेंट नहीं लेना चाहते। जिले ने अनुरोध पर कोई टिप्पणी नहीं की। इसके बाद उन्होंने स्थानीय हाई स्कूल में सब्स्टिट्यूट असाइनमेंट लिया, लेकिन समस्याएं उनके पीछे-पीछे वहां भी पहुंच गईं। एक क्लास के दौरान, उन्हें एयरड्रॉप के जरिए उसी एआई-तैयार तस्वीर की एक कॉपी मिली, इससे पहले कि उसे तुरंत वापस ले लिया जाता। वे समझ गए थे कि यह पूरी क्लास में घूम रही है.

प्रधानाचार्य ने उनसे कहा कि स्कूल तत्काल जांच शुरू कर रहा है और डीसैंटियागो से मिलने या स्कूल काउंसलर की मदद उपलब्ध कराने की पेशकश की, लेकिन डीसैंटियागो का कहना है कि वे शायद इस साल जिले में वापस नहीं लौटेंगे। कम से कम अभी तो उन्हें वहां सुरक्षित महसूस नहीं होता है।

यह आपको हर चीज पर सवाल उठाने पर मजबूर कर देता है

जब सहमति के बिना वयस्कों की फर्जी नग्न तस्वीरें फैलाई जाती हैं, तो यह साइबरस्टॉकिंग बन सकता है और संघीय टेक इट डाउन एक्ट का उल्लंघन कर सकता है, जो इंटरनेट पर लोगों के वास्तविक और कंप्यूटर-जनरेटेड दोनों तरह के अंतरंग दृश्य रूपों को प्रकाशित करना अपराध बनाता है।

अधिकांश मामलों में, शिक्षकों ने सीधे तौर पर उन प्लेटफॉर्मों पर सामग्री की रिपोर्ट नहीं की जिन पर यह दिखाई दी थी। स्नैप की प्रवक्ता मोनिका बेलामी ने उत्पीड़न और यौन सामग्री पर कंपनी की नीतियों को साझा किया, जो दूसरों को अपमानित करने या यौन रूप से परेशान करने के लिए एआई-जनरेटेड या हेरफेर की गई सामग्री को साझा करने से रोकती हैं। उन्होंने बताया कि कंपनी के पास ऐसी सामग्री की रिपोर्ट करने के लिए स्थापित प्रक्रियाएं हैं और वह समुदाय की सुरक्षा और गोपनीयता का समर्थन करने के लिए टूल विकसित करना जारी रखती है। टिक टॉक ने प्रकाशन से पहले कोई टिप्पणी नहीं की।

सेवानिवृत्त रोजगार वकालत वकील डोना बॉलमैन का कहना है कि अगर कोई छात्र किसी शिक्षक की यौन तस्वीरें बनाता और साझा करता है, तो यह कार्यस्थल पर यौन उत्पीड़न का स्पष्ट मामला है। बॉलमैन का कहना है कि संघीय भेदभाव विरोधी कानूनों के तहत, नियोक्ताओं का यह दायित्व है कि वे यौन उत्पीड़न से मुक्त कार्यस्थल बनाएं। एक स्कूल में, इसका मतलब छात्र को अनुशासित करना या उसे किसी अन्य कक्षा में स्थानांतरित करना हो सकता है। हालांकि, उन्होंने यह भी जोड़ा कि स्कूलों को इन घटनाओं पर कैसे प्रतिक्रिया देनी चाहिए, इसके लिए कोई निश्चित ब्लू प्रिंट नहीं है। प्रशासकों को पीड़ित शिक्षक को यह बताने की भी जरूरत नहीं है कि छात्र को कैसे अनुशासित किया गया है।

एक अन्य मिडिल स्कूल की शिक्षिका ने बताया कि उन्होंने शिक्षकों को परेशान करने के लिए इतनी सारी एआई-तैयार सामग्री का इस्तेमाल होते देखा है कि वे अगली लहर के लिए खुद को तैयार कर रही हैं। पिछले साल, उन्होंने कहा, छात्रों ने साठ के दशक की एक शिक्षिका की सार्वजनिक तस्वीरें ढूंढीं और उनमें हेरफेर करके ऐसा दिखाया मानो वह सेक्स गतिविधियों में शामिल हो रही हों, और उन्हें स्नैपचैट ग्रुप चैट में साझा किया। कुछ महीनों पहले, उन्हें एक छात्र से एक ऐसे टिक टॉक अकाउंट के बारे में पता चला जो उनकी नकल कर रहा था।

वह अकाउंट एआई-जनरेटेड प्रतीत होता था - उनका चेहरा एआई सामग्री की तरह चिकना था, बोलते समय उनका मुंह स्वाभाविक रूप से नहीं हिल रहा था, और उनकी आवाज उनकी अपनी आवाज से मेल नहीं खाती थी। कुछ वीडियो में उन्हें स्काईडाइविंग या बैकफ्लिप जैसी चीजें करते हुए दिखाया गया था। लेकिन अन्य में वे उन यौन कृत्यों के बारे में बात करती नजर आईं जो उन्होंने किए थे और जिन्हें वे पसंद करती थीं। उन्होंने अपने प्रिंसिपल को इस बारे में बताया और उन्हें आश्वासन मिला कि वे देखेंगे कि क्या किया जा सकता है।

अकाउंट के बारे में छात्रों ने उन्हें लगातार चेताया और कुछ ने बताया कि वे जानते हैं कि इसे किसने बनाया था, जो कि उनकी कक्षा का ही एक छात्र था और उसके व्यवहार संबंधी समस्याओं के लिए जाना जाता था। शिक्षिका ने कहा कि जिन बच्चों ने उन्हें इसकी सूचना दी थी, वे सचमुच मानते थे कि वह उनका अकाउंट था और वे वैसी बातें कह रही थीं। उन्होंने बच्चों से टिक टॉक पर इसकी शिकायत करने को कहा और अकाउंट को तुरंत हटा दिया गया।

घटना से परेशान होकर, उन्होंने अगले मासिक शिक्षक सम्मेलन में इसका जिक्र किया। एक सहकर्मी ने बताया कि उसने खुद का एक एआई-तैयार फर्जी वीडियो देखा था जिसमें उसे गिरफ्तार होते दिखाया गया था, और उसका मानना था कि वह वीडियो भी उसी छात्र ने बनाया था। जैसे-जैसे दिन और हफ्ते बीते, वह शिक्षिका उसी छात्र द्वारा किए जा रहे व्यक्तिगत उत्पीड़न का निशाना बन गई, जिसने उन्हें गालियां देना और अभद्र भाषा का प्रयोग करना शुरू कर दिया।

उन्होंने अगली फैकल्टी मीटिंग में यह मुद्दा उठाया, और उप-प्राचार्य ने कहा कि वही छात्र उन्हें रात के बीच में कॉल और टेक्स्ट कर रहा था और टिक टॉक पर उनकी एआई-जनरेटेड तस्वीरें पोस्ट कर रहा था। प्रिंसिपल ने उस छात्र को उनकी क्लास से हटा दिया और उसकी पहुंच सीमित करने की कोशिश की, लेकिन उत्पीड़न तब तक जारी रहा जब तक कि छात्र ने जिला नहीं छोड़ दिया और टिक टॉक ने अकाउंट हटा दिया।

अन्य शिक्षकों का कहना है कि उनके अनुभवों ने छात्रों के साथ उनके जुड़ने के तरीके को पूरी तरह से बदल दिया है। यूके के एक कॉलेज में काम करने वाली एलिस, जो 16 से 19 वर्ष के छात्रों को निर्माण जैसे ट्रेडों में प्रशिक्षित करती हैं, कहती हैं कि उनका काम प्रशासनिक जिम्मेदारियों और कॉलेज काउंसलर की भूमिका को मिलाता है। इस सर्दी में, प्रशासकों ने उन्हें बताया कि एक छात्र ने रिपोर्ट दर्ज कराई है कि उसके सहपाठियों के बीच दो वीडियो घूम रहे हैं। एक वीडियो में वह एक छात्र के साथ बातचीत करती नजर आ रही थीं, जबकि दूसरे में उनके कपड़े उतारने और अंडरवियर या बिकिनी में नाचने का दृश्य था।

एलिस का कहना है कि एक योग्य युवा कार्यकर्ता होने के नाते उनके काम में उन चीजों पर चर्चा करना शामिल होता है जिनके बारे में छात्र अपने माता-पिता को बताने में शर्म महसूस करते हैं, जैसे ड्रग्स, पार्टियां या सुरक्षित यौन संबंध। उन्होंने उस छात्र के साथ ऐसी कई बातें की थीं जिन पर उन्हें शक था कि उसने वीडियो बनाया होगा। प्रशासकों द्वारा पूछताछ करने पर छात्र ने इससे इनकार कर दिया और जल्द ही कॉलेज छोड़ दिया।

घटना के बाद कॉलेज ने उन्हें कुछ हफ्तों के लिए क्लास से दूर रहने की अनुमति दी और छात्रों को डीपफेक के खतरों के बारे में शिक्षित किया, लेकिन लौटने पर माहौल ठंडा था। एरिज़ोना के छठे ग्रेड के शिक्षक लूक रेड के साथ भी ऐसा ही हुआ, जब छात्रों ने उनके टिक टॉक अकाउंट पर उनकी एक एआई-तैयार तस्वीर साझा की जिसमें उन्हें और एक अन्य पुरुष शिक्षक को एक-दूसरे को चूमते हुए दिखाया गया था।

लूक रेड ने अकाउंट्स की शिकायत की, लेकिन स्कूल ने जांच के बाद छात्र की पहचान कर ली जिसने तस्वीर बनाई थी और उसे तीन दिन का सस्पेंशन मिला। लूक रेड का कहना है कि इस अनुभव ने उन्हें गहरे मानसिक तनाव में डाल दिया है, और उनकी चिंताएं केवल उनके साथ हुई घटना को लेकर नहीं हैं, बल्कि छात्रों के बीच एआई के प्रति उत्साही और अनियंत्रित संस्कृति को लेकर अधिक हैं।