आर्टिफिशियल इंटेलिजेंस की दुनिया में अब किसी जवाब के असली स्रोत की सटीक पड़ताल करना मुमकिन हो सकेगा। एंथ्रोपिक एक ऐसे ओपन सोर्स सिस्टम पर काम कर रहा है, जो यह प्रमाणित कर सकता है कि कोई खास आउटपुट वास्तव में किस एआई मॉडल ने तैयार किया है। मंगलवार को सामने आए इस नए टूल का नाम फ्लैशप्रूव रखा गया है। इसका मुख्य उद्देश्य रिसर्चरों की भाषा में प्रूवेबल इन्फरेंस उपलब्ध कराना है। यह तकनीक एक तरह की गणितीय गारंटी और क्रिप्टोग्राफिक सबूत देती है, जिसकी मदद से यूजर यह पुष्टि कर सकते हैं कि उन्हें मिला जवाब उसी मॉडल से आया है जिसे वे इस्तेमाल करने का दावा कर रहे हैं।
ईमेल वेरिफिकेशन जैसी सुरक्षा तकनीक
यह प्रणाली काफी हद तक डिजिटल ईमेल हस्ताक्षर की तरह काम करती है, जहां संदेश पाने वाला यह परख सकता है कि मेल वाकई उसी प्रेषक ने भेजा है जिसका नाम ऊपर लिखा है। फ्लैशप्रूव उन कोशिशों को पूरी तरह नाकाम कर सकता है, जिनमें एक मॉडल को छिपाकर उसकी जगह दूसरे मॉडल को पेश किया जाता है। खास बात यह है कि यह सुरक्षा उस स्थिति में भी काम करती है जब धोखाधड़ी करने वाली खुद वही लैब हो जिसने उस मॉडल को बनाया और होस्ट किया है। तकनीक के जानकारों के मुताबिक, यह सिस्टम किसी भी एआई कंपनी को गुपचुप तरीके से लागत घटाने के लिए सस्ता मॉडल लगाने या फिर अपनी रेटिंग बढ़ाने के लिए महंगा मॉडल दिखाकर झूठा प्रदर्शन पेश करने से रोकेगा।
थर्ड पार्टी दावों की निष्पक्ष जांच
इस टूल की उपयोगिता केवल मॉडल के सीधे इस्तेमाल तक सीमित नहीं है, बल्कि यह तीसरे पक्ष के बड़े दावों की हकीकत भी सामने ला सकता है। कई बार कोई सॉफ्टवेयर डेवलपर यह दावा कर सकता है कि उसकी पूरी लाइब्रेरी को साइबर सुरक्षा से जुड़े किसी उन्नत मॉडल ने जांचा है। इसी तरह कोई कारोबारी संस्थान यह कह सकता है कि उसकी पूरी योजना को किसी सक्षम एआई मॉडल ने मंजूरी दी है। ऐसे में किसी भी आम उपभोक्ता या क्लाइंट के पास इन दावों को स्वतंत्र रूप से परखने का कोई पुख्ता जरिया नहीं होता। नया वेरिफिकेशन फ्रेमवर्क इसी खाली जगह को भरने के लिए तैयार किया गया है।
मॉडल सीक्रेट्स रखेगा पूरी तरह सुरक्षित
इस पूरे ढांचे को अमल में लाने के लिए एआई लैब्स को अपने हर जारी मॉडल का एक खास फिंगरप्रिंट सार्वजनिक करना होगा। बाद में इसी फिंगरप्रिंट का मिलान संबंधित आउटपुट से किया जाएगा और गणितीय तरीके से उसकी सत्यता जांची जाएगी। इस प्रक्रिया की सबसे अहम बात यह है कि ये फिंगरप्रिंट मॉडल के वेट्स यानी आंतरिक आंकड़ों को बिल्कुल उजागर नहीं करते। यही आंतरिक आंकड़े तय करते हैं कि मॉडल कैसे व्यवहार करेगा, जिन्हें एंथ्रोपिक और ओपनएआई जैसी क्लोज्ड मॉडल कंपनियां अपनी सबसे बड़ी बौद्धिक संपदा मानकर पूरी तरह गोपनीय रखती हैं। इसका सीधा मतलब यह है कि कंपनियां अपनी अनमोल तकनीक को जोखिम में डाले बिना फिंगरप्रिंट साझा कर सकती हैं, जिससे कमर्शियल मॉडल्स पर भी यह सिस्टम आसानी से लागू हो सकेगा। यह तकनीक इतनी हल्की बनाई गई है कि इसकी पूरी पड़ताल किसी भी स्थानीय डिवाइस पर आराम से की जा सकती है।
रिसर्चर्स के लिए ओपन सोर्स कोड उपलब्ध
एंथ्रोपिक ने इस घोषणा के साथ एक विस्तृत तकनीकी स्पेसिफिकेशन जारी किया है और इसके विभिन्न हिस्सों के लिए काम करने वाला कोड गिटहब पर ओपन सोर्स लाइसेंस के तहत सार्वजनिक कर दिया है। इस सिस्टम पर शोध अभी शुरुआती दौर में है और फिलहाल इसे एंथ्रोपिक या किसी अन्य लैब में व्यावसायिक रूप से तैनात करने की कोई योजना नहीं है। रिसर्चरों ने स्पष्ट किया है कि वे इस काम को केवल बीच की प्रगति साझा करने के लिए सामने लाए हैं ताकि दुनिया भर के अन्य विशेषज्ञ इस पर नजर डालें और इसे और बेहतर बनाएं।
