जहां अमेरिका में नेता AI चैटबॉट के मानसिक सेहत पर असर को पारदर्शिता और सुरक्षा उपायों के जरिए काबू करने की कोशिश कर रहे हैं, वहीं बीजिंग एक कदम आगे बढ़कर इंसान जैसी शख्सियत वाले AI को पूरी तरह बंद करने की तैयारी में दिखता है। चीन की दो बड़ी टेक कंपनियों बाइटडांस और अलीबाबा ने बीते सप्ताहांत ऐलान किया कि वे अपने सबसे लोकप्रिय कंज्यूमर AI प्रोडक्ट्स में कस्टम एजेंट फीचर बंद कर रही हैं।
दोनों कंपनियों ने इसे "प्रोडक्ट फंक्शन में बदलाव" बताया है, जो ऐसे प्रोडक्ट्स को नियंत्रित करने वाले नए नियमों के लागू होने से ठीक पहले किया जा रहा है।
डोबाओ और क्वेन ने तय की तारीखें
बाइटडांस के ऐप डोबाओ ने शुक्रवार रात एक नोटिस में यूजर्स को बताया कि उसका एजेंट फीचर 15 जुलाई को बंद हो जाएगा। इसके बाद 15 अक्टूबर के बाद इससे जुड़ा डेटा कंपनी की प्राइवेसी पॉलिसी के तहत संभाला जाएगा और उसे वापस पाना नामुमकिन हो जाएगा। अलीबाबा का क्वेन इस मामले में और तेजी से चला। इसमें "इंसानों जैसे इंटरैक्टिव एजेंट और यूजर के बनाए एजेंट फंक्शन" 10 जुलाई को हट जाएंगे, जबकि बाकी व्यापक एजेंट सेवाएं 15 जुलाई को बंद होंगी।
क्या है इस पूरी सख्ती की वजह
इस पूरे बदलाव की जड़ में चीन का नया नियम है, जिसका नाम है AI एंथ्रोपोमॉर्फिक इंटरैक्शन सर्विसेज के प्रबंधन के लिए अंतरिम उपाय। इसे 10 अप्रैल को पांच सरकारी विभागों ने मिलकर जारी किया था, जिनमें साइबरस्पेस एडमिनिस्ट्रेशन ऑफ चाइना, नेशनल डेवलपमेंट एंड रिफॉर्म कमीशन, मिनिस्ट्री ऑफ इंडस्ट्री एंड इन्फॉर्मेशन टेक्नोलॉजी, मिनिस्ट्री ऑफ पब्लिक सिक्योरिटी और स्टेट एडमिनिस्ट्रेशन फॉर मार्केट रेगुलेशन शामिल हैं। ये नियम 15 जुलाई से लागू हो रहे हैं।
यह नियम खासतौर पर उन AI सेवाओं को निशाना बनाता है जो इंसानी व्यक्तित्व, सोचने के तरीके और बातचीत की शैली की नकल करके "लगातार भावनात्मक जुड़ाव" पैदा करती हैं। सीधे शब्दों में कहें तो AI गर्लफ्रेंड, AI थेरेपिस्ट, AI साथी और वे कस्टम पर्सोना वाले बॉट, जिन्हें डोबाओ और क्वेन के यूजर्स ने महीनों की मेहनत से तैयार किया था, अब बंद हो रहे हैं।
यूजर्स ने जो बनाया, वो सब खत्म
दोनों ही ऐप्स यूजर्स को ऐसे एजेंट का पूल देते थे, जिन्हें किसी खास काम, बोलने के अंदाज और तय पर्सोना के हिसाब से ढाला जा सकता था। यूजर एक आम चैटबॉट को नाम देकर उसे असिस्टेंट, ट्यूटर, रोल-प्ले करने वाला किरदार या एक जैसे मिजाज वाला साथी बना सकते थे। चीन में अब यह सब खत्म हो चुका है।
सरकारी दस्तावेज में साफ लिखा है कि ये उपाय "नाबालिगों को वर्चुअल रिश्तेदार, वर्चुअल साथी या अन्य किसी करीबी रिश्ते" की पेशकश करने वाली सेवाओं पर पाबंदी लगाते हैं। दस्तावेज में कट्टरपंथी सामग्री, प्राइवेसी लीक, शारीरिक और मानसिक सेहत को नुकसान और AI की लत जैसे खतरों का भी जिक्र है।
किन सेवाओं को मिली छूट
गैर-भावनात्मक सेवाओं को इस दायरे से साफ तौर पर बाहर रखा गया है। यानी कस्टमर सर्विस बॉट, नॉलेज सवाल-जवाब वाले टूल, दफ्तर के काम में मदद करने वाले असिस्टेंट और शैक्षिक सॉफ्टवेयर बने रहेंगे, बशर्ते वे लगातार भावनात्मक जुड़ाव की सीमा को पार न करें।
कानूनी विशेषज्ञ इन उपायों को इस तरह देखते हैं कि भावनात्मक AI को अब सिर्फ सामग्री की समस्या नहीं, बल्कि एक "शासन की समस्या" माना जा रहा है। दलील यह है कि जैसे ही AI असली इंसानी रिश्तों की जगह लेने लगता है, तो नियमन को केवल नुकसानदेह नतीजों पर नहीं, बल्कि पूरे सिस्टम की बनावट पर ध्यान देना पड़ता है।
रिसर्च भी बढ़ाती है चिंता
शोध भी इस चिंता को सही ठहराते हैं। जून में हुए एक अध्ययन में पाया गया कि ओपनएआई, एंथ्रोपिक, गूगल और अलीबाबा जैसे अग्रणी फ्रंटियर AI मॉडल तक 27% से ज्यादा बार सामाजिक-संवाद की सुरक्षा गाइडलाइन तोड़ते पाए गए। ये मॉडल अक्सर भावनात्मक लगाव को बढ़ावा देते और खुद को इंसान की तरह पेश करते थे। एक अलग सर्वे में सामने आया कि साथी वाले युवा वयस्कों में से हर सात में से एक नियमित रूप से AI रोमांटिक साथी का इस्तेमाल करता है, और इनमें से करीब 70% अपने असली पार्टनर से इसकी पूरी हकीकत छुपा रहे थे।
चीन इस श्रेणी के लिए समर्पित नियामक ढांचा बनाने वाला दुनिया का पहला देश है। कानूनी जानकारों के मुताबिक यह चीन में AI-चालित भावनात्मक जुड़ाव को खास तौर पर निशाना बनाने वाला पहला नियमों का सेट है। यूरोपीय संघ, अमेरिका और दूसरे देशों ने इससे मिलती-जुलती चिंताएं जताई तो हैं, लेकिन इतने सख्त तरीके से कानून नहीं बनाया है।
