ब्रिटेन के बॉर्डर और आव्रजन मामलों की निगरानी करने वाले स्वतंत्र मुख्य निरीक्षक यानी आईसीआईबीआई ने डिजिटल राइट्स नॉनप्रॉफिट ओपन राइट्स ग्रुप से इन टूल्स के बारे में और अधिक जानकारी साझा करने का अनुरोध किया है। यह कदम तब उठाया जा रहा है जब यह संस्था अगले साल के अपने निरीक्षण विषयों की सूची तैयार कर रही है। ओपन राइट्स ग्रुप की कैंपेनर सारा अल्शरीफ ने यह जानकारी दी है। इस संगठन के निष्कर्ष छह महीने लंबी चली उस गहन पड़ताल पर आधारित हैं, जिसमें ग्यारह संसदीय सवाल, दो मंत्रिस्तरीय पत्र और दस पब्लिक रिकॉर्ड्स रिक्वेस्ट शामिल थीं। इन सभी के जरिए गृह मंत्रालय से उन विवरणों को बाहर निकलवाने का प्रयास किया गया जिन्हें विभाग ने अब तक छुपाकर रखा था।
शरण मामलों और नीतियों की समीक्षा के लिए एआई का प्रयोग
गृह मंत्रालय द्वारा जिन तकनीकी प्रणालियों का उपयोग किया जा रहा है उनमें एसाइलम केस समराइजेशन और एसाइलम पॉलिसी सर्च टूल्स प्रमुख हैं। दस्तावेज बताते हैं कि ये टूल्स ओपनएआई के दो हजार तेईस के जीपीटी-फोर लार्ज लैंग्वेज मॉडल और माइक्रोसॉफ्ट फाउंड्री पर आधारित हैं। आव्रजन और कानून प्रवर्तन से जुड़ी इस एजेंसी ने इन टूल्स का परीक्षण साल दो हजार चौबीस के अंत में शुरू किया था। उस समय लेबर पार्टी की सरकार लगभग एक लाख शरण मामलों के बैकलॉग को खत्म करने के प्रयास में जुटी हुई थी, जबकि हर साल ब्रिटेन में आने वाले हजारों नए आवेदनों का प्रबंधन भी करना था। हालांकि विभाग ने पिछले साल जून तक शुरुआती फैसले का इंतजार कर रहे लोगों की संख्या को आधा करने में खासी प्रगति की है, लेकिन निर्णयों के खिलाफ अपील की संख्या में भारी बढ़ोतरी दर्ज की गई है।
निरीक्षण प्रक्रिया और अधिकारियों की प्रतिक्रिया
आईसीआईबीआई ने स्पष्ट किया है कि अपनी वार्षिक निरीक्षण प्राथमिकताओं को सार्वजनिक करने से पहले यह पुष्टि नहीं की जा सकती कि कौन से विषय सक्रिय रूप से विचाराधीन हैं। हालांकि संस्था ने यह स्वीकार किया कि वह एआई टूल्स के उपयोग को लेकर जताई गई चिंताओं से भली-भांति अवगत है। साथ ही पिछले साल के उस निष्कर्ष का भी हवाला दिया गया जिसमें कहा गया था कि इस तरह के एक टूल की प्रभावशीलता और विश्वसनीयता अलग-अलग मामलों में भिन्न पाई गई थी। उधर गृह मंत्रालय के एक प्रवक्ता ने ईमेल के जरिए बताया कि शरण संबंधी फैसले प्रशिक्षित केसवर्कर्स द्वारा ही लिए जाते हैं, और एआई टूल्स का इस्तेमाल केवल इंटरव्यू रिकॉर्ड्स तथा नीतिगत जानकारियों को खंगालने में सहायता के लिए होता है। उनका कहना था कि ये टूल्स अकेले निर्णय नहीं ले सकते और न ही किसी दावे पर अंतिम फैसला सुनाते हैं। विभाग स्थापित गुणवत्ता आश्वासन प्रक्रियाओं के तहत इन टूल्स के प्रदर्शन की लगातार निगरानी कर रहा है और इनके रोलआउट पर अपडेटेड मूल्यांकन प्रकाशित करने की प्रतिबद्धता भी जताई है।
सटीकता पर सवाल और उच्च स्तर के जोखिम
शोधकर्ताओं ने इन एआई टूल्स की सटीकता को लेकर गहरी चिंता जताई है। यह मामला तब और गंभीर हो जाता है जब बात किसी ऐसे व्यक्ति को वापस भेजने जैसे उच्च जोखिम भरे निर्णय की हो जो अपने देश में उत्पीड़न के डर का सामना कर रहा हो। ओपन राइट्स ग्रुप ने पाया कि एसाइलम केस समराइजेशन टूल द्वारा तैयार किए गए उन सारांशों का प्रतिशत काफी अधिक है जिन्हें उपयोग के योग्य नहीं माना गया, अक्सर ऐसा इसलिए हुआ क्योंकि उनमें तथ्यात्मक त्रुटियां या गलत प्रस्तुतियां थीं। संगठन ने यह भी पाया कि एसाइलम पॉलिसी सर्च द्वारा तैयार सारांशों के लिए किसी प्रकार की गुणवत्ता नियंत्रण व्यवस्था मौजूद नहीं है। अधिकारी समय बचाने के लिए इन टूल्स का सहारा लेते हैं, और सरकारी अनुमानों के मुताबिक दोनों को एक साथ इस्तेमाल करने पर प्रति मामला लगभग एक घंटे की बचत हो सकती है। केसवर्कर्स इंटरव्यू के लंबे ट्रांसक्रिप्ट्स को तेजी से देखने के लिए इनका प्रयोग करते हैं।
एआई के भ्रम और अदालती मामले
जुलाई के महीने में ब्रिटेन के एक न्यायाधीश ने गृह मंत्रालय पर एक मोरक्को की महिला और उसके बच्चे के शरण दावे को ठुकराने के लिए एआई द्वारा गढ़े गए दस्तावेज का हवाला देने का आरोप लगाया था। यह दावा इस आधार पर खारिज किया गया था कि उसके लिए स्वदेश लौटना सुरक्षित होगा। लेबर पार्टी की सांसद बेल रिबेइरो-अड्डी ने इस स्थिति पर कड़ी आपत्ति जताते हुए कहा कि हम इंसानों की जिंदगियों के साथ खेल रहे हैं और ऐसे मामलों में फैसले तथ्यों व समझ के आधार पर होने चाहिए न कि मशीनों के भरोसे। इसके अलावा शोधकर्ताओं और विधिक संगठनों को यह भी डर है कि इन मॉडल्स में मौजूद सांस्कृतिक पूर्वाग्रह की वजह से भाषा संबंधी बाधाएं पैदा हो सकती हैं और सारांशों से सांस्कृतिक बारीकियां गायब हो सकती हैं। इसके परिणामस्वरूप भेदभावपूर्ण फैसले सामने आने की आशंका बनी रहती है। ओपनएआई के एक प्रवक्ता ने इस पर सफाई देते हुए मॉडल की सटीकता में सुधार के लिए चल रहे प्रयासों का जिक्र किया और यह भी बताया कि कंपनी जनवरी में जीपीटी-फोर को सेवानिवृत्त कर रही है।
नियामक विसंगतियां और गोपनीयता के उल्लंघन
ब्रिटेन के एआई प्लेबुक के नियमों के मुताबिक सरकारी विभागों को निर्णय लेने की प्रक्रियाओं में इस्तेमाल होने वाले एल्गोरिदम टूल्स के बारे में पूरी पारदर्शिता रखनी चाहिए और जनता को इनकी जानकारी देनी चाहिए। लेकिन गृह मंत्रालय के ये केस समराइजेशन और पॉलिसी सर्च टूल्स उस सार्वजनिक सूची में शामिल नहीं हैं। शरण चाहने वालों को भी कभी यह नहीं बताया जाता कि उनके मामले में इन तकनीकी टूल्स का उपयोग किया गया है। ओपन राइट्स ग्रुप के डिजिटल जस्टिस प्रोग्राम का नेतृत्व करने वाली सारा अल्शरीफ का कहना है कि प्रवासी संगठनों और वकीलों को इस बारे में कोई जानकारी नहीं है, इसलिए उन्हें बताना जरूरी है ताकि वे इसे चुनौती दे सकें। क्लाइटर्स के वकीलों द्वारा तैयार की गई एक स्वतंत्र कानूनी राय के अनुसार व्यक्तिगत जानकारी के गलत एआई सारांश को चुनौती न दे पाना ब्रिटेन के डेटा अधिकारों के कानूनों का उल्लंघन हो सकता है।
जांच का दायरा और अन्य सरकारी प्रणालियां
इन तमाम निष्कर्षों को दोनों संगठनों ने ब्रिटेन के डेटा नियामक इन्फॉर्मेशन कमिशन के पास भेज दिया है। नियामक फिलहाल इस बात की जांच कर रहा है कि गृह मंत्रालय ने ओपन राइट्स ग्रुप को यह बताने से क्यों इनकार किया कि उसके कर्मचारी इन दो एआई टूल्स का इस्तेमाल और प्रशिक्षण कैसे लेते हैं। पब्लिक लॉ प्रोजेक्ट की सीनियर रिसर्च फेलो कैरोलाइन सेलमन ने बताया कि उनकी टीम ने सरकार के भीतर ग्यारह ऐसे हाई-रिस्क एआई सिस्टम्स का पता लगाया है जो उपयोग में तो हैं लेकिन सार्वजनिक रिपॉजिटरी से गायब हैं। उन्हें इस बात की भी आशंका है कि ऐसे और भी कई टूल्स तैनात किए गए होंगे जिनके बारे में शोधकर्ताओं को तो दूर, उन लोगों को भी कोई खबर नहीं है जिन पर इनका इस्तेमाल किया जा रहा है। सेलमन का कहना है कि जब तक आपको यह पता ही नहीं होगा कि कोई चीज इस्तेमाल हो रही है, तब तक आप उसके बारे में कोई सवाल नहीं उठा सकते।
