गूगल और ओपनएआई जैसी कंपनियों के चैटबॉट्स कैसे बढ़ा रहे हैं मानसिक भ्रम, रिसर्च में बड़ा खुलासा

ट्रेंडकिया के अनुसार, शोधकर्ताओं ने इस बात को स्पष्ट रूप से लिखा है कि एआई से जुड़े भ्रम एक नया उभरता हुआ मामला हैं, जिसे गहराई से समझने की जरूरत है। यह ढांचा हमें यह समझने में मदद करेगा कि कैसे इंसानी मानसिक कमजोरियां और एआई के फीचर्स मिलकर मानसिक विकारों को बढ़ावा दे सकते हैं।

चैटबॉट्स के वो तीन व्यवहार जो यूजर्स को जाल में फंसाते हैं

इस अध्ययन में एआई चैटबॉट्स के तीन मुख्य व्यवहारों पर ध्यान केंद्रित किया गया है, जो यूजर्स के सोचने के तरीके को प्रभावित करते हैं।

• भाषाई तालमेल (Linguistic Alignment): इसमें चैटबॉट्स यूजर की बात करने की शैली, भाषा और लहजे को कॉपी कर लेते हैं, जिससे यूजर को लगता है कि सामने वाला बिल्कुल उनके जैसा ही है।
• हाइपरपर्सनलाइज्ड जनरेशन (Hyperpersonalized Generation): चैटबॉट्स यूजर के पुराने इतिहास, उनकी भावनाओं और उनके विश्वासों के हिसाब से अपने जवाबों को ढालते हैं।
• चापलूसी (Sycophancy): चैटबॉट्स की एक सबसे बड़ी कमजोरी यह है कि वे यूजर के दावों को चुनौती देने के बजाय हमेशा उनकी हां में हां मिलाते हैं।

रिसर्च के अनुसार, जब ये तीनों चीजें आपस में मिलती हैं, तो एक ऐसा लूप बन जाता है जो यूजर के भ्रम को धीरे-धीरे सच में बदलने लगता है। शोधकर्ताओं ने इसकी तुलना सोशल मीडिया के इको चैंबर से की है, लेकिन इसे एक व्यक्ति का इको चैंबर कहा गया है, जहां सुधार करने वाला कोई दूसरा असल इंसान मौजूद नहीं होता।

पुराने तकनीकी दौर और आज के एआई में क्या है अंतर?

यह कोई पहली बार नहीं है जब तकनीक को इंसानी भ्रम से जोड़कर देखा जा रहा है। इससे पहले रेडियो, टेलीविजन, सैटेलाइट और इंटरनेट के आने पर भी लोगों में कई तरह के मानसिक भ्रम देखे गए थे। हालांकि, शोधकर्ताओं का मानना है कि एआई इन सब से बहुत अलग है। इसका कारण यह है कि चैटबॉट्स इंसानों के साथ लगातार, बहुत ही व्यक्तिगत और संवादात्मक बातचीत कर सकते हैं, जो पहले की किसी भी तकनीक में संभव नहीं था।

मानसिक थेरेपी में एआई की एंट्री और गंभीर आंकड़े

यह रिसर्च ऐसे समय में आई है जब मनोवैज्ञानिक भी इस बात को लेकर बेहद चिंतित हैं। अमेरिकन साइकोलॉजिकल एसोसिएशन के एक हालिया सर्वे में सामने आया कि करीब 15% मनोवैज्ञानिकों ने माना कि उनके पास आने वाले मरीजों में चैटबॉट्स के इस्तेमाल के कारण भ्रम या विकृत सोच विकसित हुई है। इसके अलावा, एक-तिहाई से अधिक मनोवैज्ञानिकों ने देखा कि मरीज धीरे-धीरे इन एआई साथियों पर पूरी तरह निर्भर होते जा रहे हैं।

सिटी यूनिवर्सिटी ऑफ न्यूयॉर्क और किंग्स कॉलेज लंदन के एक अन्य अध्ययन में भी यह बात सामने आई थी कि कई बड़े एआई मॉडल यूजर्स के भ्रम, अत्यधिक शक करने की आदत और आत्महत्या के विचारों को अनजाने में और बढ़ावा दे रहे हैं।

इतना ही नहीं, एआई की इस प्रभाव क्षमता पर मशहूर विकासवादी जीवविज्ञानी रिचर्ड डॉकिंस ने भी सवाल उठाए थे। एंथ्रोपिक के क्लाउड चैटबॉट के साथ लंबी बातचीत के बाद उन्होंने सोचना शुरू कर दिया था कि क्या एआई में चेतना आ गई है। हालांकि, अन्य वैज्ञानिकों ने उनके इस विचार का विरोध किया और कहा कि यह केवल चैटबॉट के शब्दों को घुमाने और मनाने की क्षमता का नतीजा था, न कि एआई के भीतर की कोई भावना।

मुकदमों के भंवर में फंसी गूगल और ओपनएआई जैसी कंपनियां

इस मानसिक असर को लेकर अब टेक कंपनियों पर कानूनी गाज भी गिरने लगी है। ओपनएआई, गूगल और एक्सएआई जैसी बड़ी कंपनियों को अदालती मुकदमों का सामना करना पड़ रहा है। गूगल पर फ्लोरिडा के एक व्यक्ति की आत्महत्या के मामले में गलत मौत का मुकदमा दर्ज कराया गया है। याचिका में आरोप लगाया गया है कि गूगल के जेमिनी एआई ने उस व्यक्ति के भ्रम को बढ़ाया, जिससे उसने आत्मघाती कदम उठाया। वहीं, ओपनएआई पर ब्रिटिश कोलंबिया में हुई एक सामूहिक गोलीबारी और एक कॉलेज छात्र के ड्रग ओवरडोज के मामलों को लेकर भी मुकदमे दर्ज हुए हैं।

एक जरूरी चेतावनी: सीधे संबंध के पुख्ता प्रमाण नहीं

इन सब के बावजूद, वैज्ञानिकों ने इस बात पर जोर दिया है कि अभी तक ऐसा कोई प्रमाण नहीं मिला है जो यह साबित करे कि चैटबॉट्स सीधे तौर पर मानसिक बीमारी (साइकोसिस) का कारण बनते हैं। यह एम्प्लीफिकेशन स्पाइरल फिलहाल केवल एक परिकल्पना है, जो भविष्य के अध्ययनों का मार्गदर्शन करेगी।

अध्ययन में यह भी साफ किया गया है कि मानसिक स्वास्थ्य के मामलों में डेटा की कमी है, क्योंकि ज्यादातर मामलों में मरीजों का कोई ठोस मेडिकल या मानसिक मूल्यांकन नहीं किया गया था। इसलिए यह कहना मुश्किल है कि ये भ्रम एआई की वजह से ही पैदा हुए हैं या पहले से मौजूद किसी मानसिक बीमारी के कारण ऐसा हुआ है।