चैटजीपीटी हेल्थ सभी यूजर्स के लिए उपलब्ध, लेकिन गोपनीयता और मेडिकल सलाह को लेकर उठ रहे गंभीर सवाल

इसका सीधा मतलब यह है कि अगर चैटजीपीटी आपके मेडिकल रिकॉर्ड से किसी निदान के बारे में पढ़ता है, तो वह एक सुरक्षित हेल्थ बातचीत मानी जाएगी। लेकिन यदि आप अपने मेडिकल रिकॉर्ड को जोड़े बिना चैटजीपीटी को अपने शब्दों में अपनी बीमारी के बारे में बताते हैं, तो उसे हेल्थ कन्वर्सेशन नहीं माना जाएगा। इसका अर्थ यह भी है कि चैटजीपीटी हेल्थ की गोपनीयता सुरक्षा का लाभ उठाने का एकमात्र तरीका यह है कि आप अपनी स्वास्थ्य संबंधी जानकारी ओपनएआई के साथ साझा करें। जैसा कि कंपनी ने अपनी घोषणा में लिखा है कि आप बिना कुछ जोड़े चैटजीपीटी में स्वास्थ्य संबंधी सवाल पूछ सकते हैं, लेकिन हेल्थ का उपयोग करने और अपनी जानकारी के आधार पर उत्तर पाने के लिए आपको एप्पल हेल्थ, अमेरिकी अस्पताल प्रणालियों के समर्थित मेडिकल रिकॉर्ड, वन मेडिकल या फंक्शन हेल्थ को जोड़ना होगा। बाद वाली बातचीत में गोपनीयता सुरक्षा मिलेगी, जबकि पहली वाली में नहीं।

दावों के विपरीत मेडिकल सलाह की विश्वसनीयता पर संशय

ओपनएआई अपने हेल्थबेंच मूल्यांकन के आधार पर यह संकेत देता है कि चैटजीपीटी चिकित्सीय सलाह देने में बेहद कुशल है। हालांकि, बड़े भाषा मॉडल यानी एलएलएम भरोसेमंद मेडिकल सलाह नहीं दे सकते हैं और उन पर आंख मूंदकर भरोसा नहीं किया जाना चाहिए। पिछले अध्ययनों से यह बात सामने आ चुकी है कि जब कोई एलएलएम किसी स्वास्थ्य से जुड़े सवाल का सही जवाब दे भी देता है, तब भी वास्तविक जीवन की बातचीत अक्सर पटरी से उतर जाती है। हेल्थबेंच के साथ भी कुछ ऐसी ही सीमाएं जुड़ी हुई प्रतीत होती हैं।

कंपनी का कहना है कि असली डॉक्टरों ने अलग-अलग चैटजीपीटी मॉडल और अपने सहकर्मी डॉक्टरों के जवाबों को परखने के लिए मूल्यांकन मानक तैयार किए थे। नतीजों से यह दिखाया गया कि भुगतान वाले चैटजीपीटी मॉडल मुफ्त वाले मॉडलों से बेहतर स्कोर करते हैं, जो बदले में वास्तविक डॉक्टरों से भी बेहतर प्रदर्शन करते हैं। लेकिन इसका मतलब यह नहीं है कि चैटबॉट पूरी तरह भरोसेमंद हो गया है। हेल्थबेंच ढांचे के एक मूल्यांकन में यह बात सामने आई है कि ये परीक्षण वास्तविक बातचीत नहीं हैं और इनमें मुहावरेदार भाषा, विषय में बदलाव और मरीजों की अप्रत्याशित चिंताओं को शामिल नहीं किया जाता है। एक अन्य बड़ी सीमा यह है कि हेल्थबेंच केवल छोटी वार्ताओं का परीक्षण करता है, जिससे लंबी या बहु-विषयक प्रक्रियाओं का आकलन करना संभव नहीं हो पाता है।

हेल्थबेंच मूल्यांकन की कार्यप्रणाली में कमियां

जो लोग चैटजीपीटी से स्वास्थ्य संबंधी सलाह मांगते हैं, वे इसके परीक्षणों की तरह सुनियोजित सवाल नहीं पूछते हैं, इसलिए एलएलएम के जवाब कभी भी हेल्थबेंच में परखे गए उत्तरों जैसे नहीं होंगे। ओपनएआई इस बात को अच्छी तरह जानता है, तभी उसकी घोषणाओं में इस बात पर जोर दिया जाता है कि लोग आम बातचीत के दौरान कितनी बार स्वास्थ्य संबंधी सवाल पूछते हैं। इसके अलावा परीक्षण सामग्री में दुर्लभ बीमारियों को पर्याप्त रूप से शामिल नहीं किया गया था, जिससे यह पता चल सके कि मॉडल ऐसे मामलों में कैसा प्रदर्शन करता है। मूल्यांकन के मानदंड भी काफी लापरवाह लगते हैं, क्योंकि ओपनएआई के अपने एक उदाहरण में आपातकालीन चिकित्सा देखभाल लेने की सलाह देने पर अंक दिए जाते हैं और बाद में उसी मानदंड में फिर से अंक जोड़े जाते हैं। यह इस बात का संकेत है कि कंपनी या तो स्कोर बढ़ाने के लिए दो बार अंक दे रही है या फिर मानदंडों की ठीक से प्रूफरीडिंग नहीं की गई है।

चैटबॉट की गलत मेडिकल सलाह से वास्तविक नुकसान

सबसे महत्वपूर्ण बात यह है कि लोग वास्तव में चिकित्सीय सलाह के लिए चैटजीपीटी का उपयोग करते हैं और ऐसा करने के बाद उन्हें गंभीर स्वास्थ्य समस्याओं और यहां तक कि मौत का भी सामना करना पड़ा है, जिसके बारे में कंपनी अच्छी तरह जानती है। इस हफ्ते एक पादरी द्वारा कंपनी के खिलाफ मुकदमा दायर किया गया है, जिनका कहना है कि चैटजीपीटी-4ओ (जो मॉडल अब उपलब्ध नहीं है) से पल्मोनरी एम्बोलिज्म के बारे में सलाह मांगने के बाद उनकी जान लगभग चली गई थी। इस मुकदमे में एक ऐसे आदेश की मांग की गई है जो कंपनी को चैटजीपीटी हेल्थ जैसे स्वास्थ्य उत्पाद पेश करने से रोक सके। ओपनएआई के खिलाफ अन्य मुकदमों में आरोप लगाया गया है कि उसके उत्पादों के कारण यूजर्स में आत्महत्या और मानसिक विक्षेप की स्थिति पैदा हुई। मेडिकल सेफ्टी नॉन-प्रॉफिट संगठन ईसीआरआई ने 2026 के लिए एआई चैटबॉट के दुरुपयोग को स्वास्थ्य तकनीक का सबसे बड़ा खतरा बताया है।

चैटजीपीटी हेल्थ का उपयोग करने से पहले ये बातें जानना जरूरी

यदि आप इसके बावजूद चैटजीपीटी हेल्थ का उपयोग करना चाहते हैं, तो अपनी गोपनीयता की सुरक्षा के लिए इसके टूल का इस्तेमाल करने का तरीका जानना आवश्यक है

• आप ऐसी बातचीत शुरू करने के लिए अस्थायी चैट का उपयोग कर सकते हैं जो मेमोरी या पर्सनलाइजेशन फीचर्स का उपयोग नहीं करती है।
• अपने हेल्थ डेटा को आयात करने के बाद आप उसकी समीक्षा कर सकते हैं और उसमें बदलाव कर सकते हैं, जैसे कि त्रुटियों को सुधारना या रिकॉर्ड से उन चीज़ों को हटाना जिन्हें आप नहीं रखना चाहते हैं।
• आप सेटिंग्स में जाकर हेल्थ एंड अकाउंट्स विकल्प के तहत किसी भी समय अपनी स्वास्थ्य जानकारी को डिस्कनेक्ट कर सकते हैं। कंपनी का कहना है कि डेटा को 30 दिनों के भीतर हटा दिया जाएगा।
• आप चैटजीपीटी को हर बार अपने हेल्थ रिकॉर्ड तक पहुंचने के लिए अनुमति मांगने के वास्ते सेटिंग्स, प्लगइन्स और हेल्थ विकल्प में जाकर यह सेटिंग बदल सकते हैं।
• ऐसे प्लगइन्स का उपयोग करते समय सावधानी बरतें जो स्वास्थ्य संबंधी जानकारी साझा कर सकते हैं। ओपनएआई का कहना है कि उसके पास अतिरिक्त सुरक्षा उपाय हैं जो डेटा साझा करने की अनुमति मांग सकते हैं, लेकिन यह भी कहा गया है कि कंपनी इन सुरक्षा उपायों का परीक्षण जारी रखेगी, जिसका मतलब है कि कंपनी हर जरूरी चीज को अभी पकड़ नहीं पा रही है।