आर्टिफिशियल इंटेलिजेंस तकनीक की आड़ में फैल रहे फर्जी ऑडियो, वीडियो और तस्वीरों के गलत इस्तेमाल को रोकने के लिए सख्त कदम उठाए गए हैं। केंद्र सरकार ने एआई द्वारा निर्मित आपत्तिजनक और भ्रामक डीपफेक सामग्री के प्रसार पर लगाम लगाने के मकसद से नए आईटी दिशानिर्देश प्रभावी कर दिए हैं। नए प्रावधानों के तहत अब सोशल मीडिया प्लेटफॉर्म्स की जवाबदेही को पहले से कहीं अधिक बढ़ा दिया गया है, ताकि डिजिटल स्पेस में नागरिकों की सुरक्षा सुनिश्चित की जा सके।
सामग्री हटाने के समय में 12 गुना की कटौती
नए नियमों के लागू होने के बाद अब इंटरनेट प्लेटफॉर्म्स को गैरकानूनी डीपफेक कंटेंट के खिलाफ बेहद तेज कार्रवाई करनी होगी। सरकार या अदालत द्वारा किसी भी अवैध एआई जनरेटेड वीडियो, ऑडियो या टेक्स्ट सामग्री को हटाने का आदेश दिए जाने पर कंपनियों को उसे केवल 3 घंटे की समयसीमा के भीतर अपने प्लेटफॉर्म से हटाना अनिवार्य कर दिया गया है। इससे पहले कंपनियों को ऐसी सामग्री हटाने के लिए 36 घंटे की मोहलत दी जाती थी। इस तरह कंपनियों को अब 12 गुना तेजी से काम करना पड़ेगा।
न्यूडिटी और प्रतिरूपण पर 2 घंटे में कार्रवाई अनिवार्य
अत्यंत संवेदनशील सामग्री के मामलों में नियम और भी अधिक कठोर बनाए गए हैं। यदि कोई डीपफेक कंटेंट किसी व्यक्ति की नग्नता, अश्लीलता या उसकी पहचान चुराकर बनाए गए फर्जी रूप यानी प्रतिरूपण से जुड़ा है, तो प्लेटफॉर्म्स को निर्देश मिलने के महज 2 घंटे के भीतर उसे इंटरनेट से गायब करना होगा। पुराने नियमों में इस प्रकार की संवेदनशील सामग्री को हटाने के लिए 24 घंटे की समयसीमा तय की गई थी। इस कदम से डिजिटल क्षेत्र में महिलाओं और आम नागरिकों की निजता को त्वरित सुरक्षा मिल सकेगी।
ऑटोमेटेड तकनीक, लेबलिंग और मेटाडेटा ट्रेसेबिलिटी
केवल शिकायत का इंतजार करने के बजाय अब सोशल मीडिया कंपनियों को एआई कंटेंट की पहचान के लिए खुद भी तकनीकी इंतजाम करने होंगे। सरकारी निर्देशों के अनुसार प्लेटफॉर्म्स को अपने सिस्टम पर ऑटोमेटेड टेक्नोलॉजी उपकरण लागू करने होंगे, जो एआई डीपफेक अपलोड होते ही उसकी पहचान कर लें और उसे फैलने से रोक दें। इसके साथ ही, एआई जनरेटेड सभी प्रकार के टेक्स्ट, ऑडियो और वीडियो के लिए स्पष्ट लेबलिंग और ट्रेसेबल मेटाडेटा को अनिवार्य बना दिया गया है। बिना स्पष्ट एआई लेबल के किसी भी एआई निर्मित सामग्री को अपलोड करने की अनुमति नहीं होगी।
आईटी एक्ट की धारा 79 और सेफ हार्बर सुरक्षा का खात्मा
इन कड़े नियमों का सबसे महत्वपूर्ण पहलू कानूनी सुरक्षा से जुड़ा है। सूचना प्रौद्योगिकी अधिनियम 2000 की धारा 79 के तहत सोशल मीडिया कंपनियों को अब तक सेफ हार्बर का कानूनी संरक्षण प्राप्त था। इस व्यवस्था के अंतर्गत प्लेटफॉर्म्स को केवल एक मध्यस्थ माना जाता था और उपयोगकर्ता द्वारा पब्लिश की गई किसी भी गैरकानूनी सामग्री के लिए सीधे तौर पर प्लेटफॉर्म को जिम्मेदार नहीं ठहराया जाता था, बल्कि सारा कानूनी मामला कंटेंट पोस्ट करने वाले यूजर पर चलता था।
हालांकि, नए नियमों के अनुसार यदि कोई सोशल मीडिया प्लेटफॉर्म तय समयसीमा के भीतर डीपफेक या आपत्तिजनक सामग्री हटाने में विफल रहता है या लापरवाही बरतता है, तो उसका सेफ हार्बर संरक्षण तत्काल प्रभाव से खत्म कर दिया जाएगा। ऐसी स्थिति में सोशल मीडिया कंपनी को भी अपराध में भागीदार माना जाएगा और उसके खिलाफ आईटी एक्ट के तहत सीधे आपराधिक व कानूनी कार्रवाई की जाएगी।
वैश्विक स्तर पर डीपफेक के खिलाफ सख्त रुख
एआई के जरिए फर्जी तस्वीरें और आवाजें तैयार कर लोगों को ठगने और बदनाम करने की घटनाएं केवल भारत ही नहीं बल्कि दुनिया भर में एक गंभीर चुनौती बन चुकी हैं। भारत से पहले यूरोप में भी आर्टिफिशियल इंटेलिजेंस के सुरक्षित और नियंत्रित इस्तेमाल को लेकर अत्यंत सख्त कानून और नियम लागू किए जा चुके हैं। भारत सरकार के इस कदम का मुख्य उद्देश्य इंटरनेट पर फैलती भ्रामक जानकारी को रोकना और सोशल मीडिया प्लेटफॉर्म्स को अपनी जिम्मेदारी निभाने के लिए पूरी तरह बाध्य करना है।
