यूरोपियन यूनियन बच्चों के मानसिक स्वास्थ्य और उनके विकास पर आर्टिफ़िशियल इंटेलिजेंस के बढ़ते प्रभाव को नियंत्रित करने के लिए एक बड़ा कदम उठाने जा रहा है। एक नए प्रस्तावित कानून, जिसे 'EU किड्स एक्ट' नाम दिया गया है, के तहत यूरोपियन यूनियन 18 वर्ष से कम उम्र के नाबालिगों के साथ बातचीत के दौरान चैटबॉट द्वारा मानवीय भावनाओं या आपसी संबंधों की नकल करने पर पूरी तरह से प्रतिबंध लगाने की योजना बना रहा है। इस कठोर नियामक कदम का मुख्य उद्देश्य बच्चों को मशीनों के साथ भावनात्मक रूप से निर्भर होने से रोकना है, ताकि उनका वास्तविक सामाजिक विकास प्रभावित न हो।
गुरुवार को पेश किए गए इस विधायी प्रस्ताव में न केवल चैटबॉट बल्कि सोशल मीडिया और वीडियो-शेयरिंग प्लेटफॉर्म पर भी नाबालिगों की पहुंच को लेकर कड़े नियम तय किए गए हैं। इस मसौदे के अनुसार, 13 साल से कम उम्र के बच्चों को अपने माता-पिता या कानूनी अभिभावकों की निगरानी के बिना चैटबॉट का उपयोग करने की अनुमति नहीं दी जाएगी। सुरक्षा नियमों का उल्लंघन करने वाली टेक कंपनियों पर भारी जुर्माना लगाया जाएगा। यदि कोई डिजिटल प्लेटफॉर्म अपने उत्पादों में बच्चों की सुरक्षा से जुड़े पुख्ता इंतजाम नहीं करता है, तो उस पर उसके वैश्विक सालाना टर्नओवर का 6 प्रतिशत तक जुर्माना लगाया जा सकता है।
बच्चों की प्राइवेसी के लिए चैटबॉट की याददाश्त पर रोक
इस नए कानून का एक और महत्वपूर्ण हिस्सा चैटबॉट की डेटा स्टोर करने की क्षमता से जुड़ा है। यूरोपियन यूनियन में काम करने वाले चैटबॉट को अब नाबालिगों के साथ हुई अलग-अलग बातचीत के विवरण को अपनी मेमोरी में रखने की अनुमति नहीं होगी। यूरोपियन कमीशन को डर है कि यदि ये सिस्टम बच्चों के साथ हुई पुरानी बातचीत को याद रखेंगे, तो वे समय के साथ बच्चों का बेहद संवेदनशील व्यक्तिगत डेटा इकट्ठा कर लेंगे। इसके अलावा, लगातार बनी रहने वाली याददाश्त से बच्चों में मशीनों के साथ बातचीत करने की अस्वस्थ और हानिकारक आदतें मजबूत हो सकती हैं, जिससे वे वास्तविक इंसानों से दूर हो सकते हैं।
इसके साथ ही, नए प्रस्तावों में टेक कंपनियों द्वारा इन टूल्स को प्रमोट करने के तरीकों पर भी लगाम कसी गई है। सोशल नेटवर्किंग साइट्स, वीडियो-शेयरिंग प्लेटफॉर्म और ऑनलाइन गेमिंग कंपनियों को अपनी सेवाओं पर एआई चैटबॉट को खुद-ब-खुद सक्रिय करने या बच्चों को इनका उपयोग करने के लिए उकसाने की अनुमति नहीं होगी। इसके तहत, किसी भी नाबालिग की कॉन्टैक्ट लिस्ट में चैटबॉट या एआई साथियों को सबसे ऊपर पिन करने पर प्रतिबंध रहेगा, जैसा कि पूर्व में स्नैपचैट जैसी कंपनियों द्वारा किया जाता रहा है।
नशे की तरह लत लगाने वाले डिजाइन के खिलाफ उठती आवाजें
हालांकि यह नया प्रस्ताव केवल उन्हीं एआई चैटबॉट और डिजिटल साथियों तक सीमित है जो नाबालिगों के स्वास्थ्य, सुरक्षा और मानसिक स्थिति के लिए गंभीर खतरा पैदा करते हैं, लेकिन कुछ मानवाधिकार संगठन इसे और व्यापक बनाने की मांग कर रहे हैं। ब्रसेल्स स्थित वकालत समूह 'यूरोपियन डिजिटल राइट्स' के नीति सलाहकार सिमियोन डी ब्रोवर ने बच्चों की सुरक्षा के इस कदम का स्वागत किया है, लेकिन उन्होंने कहा कि इन प्रतिबंधों को केवल युवाओं तक सीमित रखना तर्कसंगत नहीं है। उनका मानना है कि हर व्यक्ति को ऐसे एआई सिस्टम से सुरक्षा मिलनी चाहिए जो जानबूझकर उपयोगकर्ताओं को अपना आदी बनाने या उनमें भावनात्मक निर्भरता पैदा करने के लिए डिजाइन किए गए हैं। इस संबंध में, यूरोपियन यूनियन इस साल के अंत में 'डिजिटल फेयरनेस एक्ट' पेश करने की तैयारी कर रहा है, जिसमें इस तरह के एडिक्टिव डिजाइन पर व्यापक रूप से रोक लगाने के प्रावधान होंगे।
यूरोपियन कमीशन की चिंताएं बच्चों के मनोवैज्ञानिक विकास पर आधारित हैं। अधिकारियों का मानना है कि चैटबॉट पर अत्यधिक निर्भरता बच्चों के स्वाभाविक विकास को बाधित कर सकती है और इंसानों के साथ उनके पारस्परिक संबंधों को कमजोर कर सकती है। इसके अलावा, चैटबॉट द्वारा नाबालिगों को दी जाने वाली सलाह भी चिंता का विषय है। कमीशन ने चेतावनी दी है कि ये चैटबॉट अक्सर बच्चों को उनके मानसिक स्वास्थ्य और व्यक्तिगत विकास को लेकर खतरनाक सलाह दे देते हैं, जिससे बच्चों में जोखिम भरे व्यवहार की प्रवृत्ति बढ़ सकती है।
बढ़ती निर्भरता और डीपफेक का खतरा
गुरुवार को आयोजित एक प्रेस कॉन्फ्रेंस में यूरोपियन कमीशन की प्रेसिडेंट उर्सुला वॉन डेर लेयेन ने टेक कंपनियों पर तीखा हमला करते हुए कहा कि प्लेटफॉर्म्स बच्चों के मानसिक स्वास्थ्य के साथ खिलवाड़ कर रहे हैं। आंकड़े भी इस गंभीर स्थिति की पुष्टि करते हैं। फ्रांस, जर्मनी, स्वीडन और आयरलैंड में इप्सोस बीवीए द्वारा किए गए एक सर्वे में सामने आया है कि 11 से 25 वर्ष की आयु के लगभग आधे यूरोपीय युवाओं ने एआई चैटबॉट के साथ अपनी बेहद निजी और संवेदनशील बातें साझा की हैं। इस खतरे को देखते हुए केवल यूरोप ही नहीं, बल्कि ऑस्ट्रेलिया और यूके भी सोशल मीडिया पर प्रतिबंध लगाकर नाबालिगों की चैटबॉट तक पहुंच को नियंत्रित करने का प्रयास कर रहे हैं।
चैटबॉट के जरिए तैयार किए जाने वाले डीपफेक भी एक बड़ी चुनौती बनकर उभरे हैं। बुधवार को दिए गए अपने 'स्टेट ऑफ द यूनियन' भाषण में उर्सुला वॉन डेर लेयेन ने इस ओर ध्यान आकर्षित करते हुए कहा था कि यह स्वीकार्य नहीं है कि युवा लड़कियों की तस्वीरों का इस्तेमाल एआई द्वारा अश्लील चित्र बनाने के लिए किया जाए और यूरोप के पास इस पर कार्रवाई करने की पूरी शक्ति है। हालांकि, अगस्त से लागू यूरोपियन यूनियन के एआई एक्ट के तहत एआई द्वारा तैयार की गई सामग्री पर लेबल लगाना अनिवार्य है, लेकिन वर्तमान में यह नियम केवल व्यावसायिक उपयोग के लिए बनाए गए डीपफेक पर ही लागू होता है।
पढ़ाई-लिखाई पर असर और गिरता शैक्षणिक स्तर
डिजिटल भटकाव के कारण बच्चों के बुनियादी कौशल और शैक्षणिक स्तर में भी गिरावट देखी जा रही है। 91 देशों में 'आर्गनाइजेशन फॉर इकोनॉमिक को-ऑपरेशन एंड डेवलपमेंट' (OECD) द्वारा किए गए शोध से पता चलता है कि जो बच्चे स्कूल के काम के लिए एआई चैटबॉट का उपयोग करते हैं, उनके टेस्ट स्कोर उन बच्चों की तुलना में काफी कम आते हैं जो इन टूल्स का उपयोग नहीं करते हैं।
इस गिरावट और बच्चों के मानसिक विकास पर पड़ने वाले असर को लेकर स्वतंत्र नेटवर्क 'EU किड्स ऑनलाइन' के शोधकर्ताओं ने एक रिपोर्ट में लिखा है कि वर्तमान जेनेरेटिव एआई टूल्स के निर्माण के दौरान बच्चों के अधिकारों को पूरी तरह से नजरअंदाज किया गया है। नए विधायी प्रस्तावों के जरिए यूरोपियन यूनियन अब इन कमियों को दूर करना चाहता है ताकि टेक कंपनियां मुनाफे के बजाय बच्चों के सुरक्षित भविष्य को प्राथमिकता दें।
