ओपनएआई के मुख्य वैज्ञानिक जकब पाकोकी ने एक नए ब्लॉग पोस्ट में आर्टिफिशियल इंटेलिजेंस के विकास को नियंत्रित करने के संभावित उपायों पर विस्तार से चर्चा की है। इस चर्चा का मुख्य केंद्र एक खास पैमाना है जिसे परप्लेक्सिटी कहा जाता है। हाल ही में इस तकनीक की रफ़्तार को धीमा करने का मुद्दा उस समय काफी चर्चा में आया था जब एक पूर्व शोधकर्ता ने यह बयान दिया था कि दिग्गज कंपनियां मानवता के साथ खतरनाक जुआ खेल रही हैं। इसके अलावा एंथ्रोपिक के आईपीओ दस्तावेजों में भी इस बात की चेतावनी दी गई थी कि यह तकनीक समाज के लिए विनाशकारी या अस्तित्व संबंधी खतरे पैदा कर सकती है।
कृत्रिम बुद्धिमत्ता की गति को नियंत्रित करने की योजना
इस बढ़ती चिंता के बीच एंथ्रोपिक के मुख्य कार्यकारी अधिकारी डारियो अमोदेई ने एक योजना सार्वजनिक की थी जिसका उद्देश्य तकनीक की अग्रिम सीमा की रफ़्तार को नियंत्रित करना है। इस योजना को ओपनएआई के मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन और स्पेसएक्स के मुख्य कार्यकारी अधिकारी एलोन मस्क का परोक्ष समर्थन भी मिला था। इस प्रस्ताव में इस बात पर जोर दिया गया था कि तमाम तकनीकी कंपनियों को मिलकर कुछ सामान्य सुरक्षा मानकों और अनियंत्रित प्रगति की दर पर एक निश्चित सीमा तय करने के लिए आपसी सहमति बनानी चाहिए।
सही माप तय करने की चुनौती
कृत्रिम बुद्धिमत्ता के विकास पर कोई गति सीमा लागू करने के लिए सबसे पहले यह तय करना जरूरी है कि इस प्रगति की गति को मापा कैसे जाए। जकब पाकोकी के इस लेख को सैम ऑल्टमैन ने ओपनएआई द्वारा हाल ही में प्रकाशित की गई सबसे महत्वपूर्ण सामग्री करार दिया है। उनके अनुसार परप्लेक्सिटी वह पैमाना साबित हो सकता है जिसकी मदद से इस रफ़्तार को सटीकता से मापा जा सके। हालांकि यह ध्यान रखना आवश्यक है कि इसका संबंध परप्लेक्सिटी नाम की किसी अन्य कंपनी से बिल्कुल नहीं है।
अपने इस तर्क में जकब पाकोकी ने बताया है कि कृत्रिम बुद्धिमत्ता की क्षमताओं का आकलन करने वाले पारंपरिक मानक तकनीक के तेजी से आगे बढ़ने के कारण बहुत जल्द पुराने पड़ जाते हैं। इसके विपरीत परप्लेक्सिटी का पैमाना लंबे समय से उपयोगी बना हुआ है। यह माप इस बात का आकलन करता है कि कोई मॉडल औसतन अगले टोकन का अनुमान कितनी सटीकता से लगा पाता है, जहां कम परप्लेक्सिटी का मतलब बेहतर और सटीक भविष्यवाणियां होता है।
मॉडल के नुकसान के आंकड़े और आगे के रास्ते
इस ब्लॉग पोस्ट में एक चार्ट भी शामिल किया गया है जो यह दर्शाता है कि जीपीटी 3.5 के बाद से ओपनएआई के विभिन्न मॉडलों में परप्लेक्सिटी किस प्रकार कम हुई है। जकब पाकोकी ने लिखा है कि जीपीटी-4 लगभग 0.91 के स्कोर के साथ श्रृंखलात्मक विचार प्रक्रिया का प्रभावी ढंग से उपयोग करने में पूरी तरह सक्षम था। इसी क्षमता ने आधुनिक तर्क-आधारित मॉडलों के निर्माण को बढ़ावा दिया। अब जैसे-जैसे हम 0.8 से नीचे के स्तर पर पहुंचे हैं, हमने साइबर सुरक्षा और गणित जैसे महत्वपूर्ण क्षेत्रों में असाधारण बदलाव और क्षमताएं देखी हैं।
उनके दृष्टिकोण के अनुसार परप्लेक्सिटी सामान्य बुद्धिमत्ता के लिए एक साझा मानक का आधार प्रदान कर सकती है, जिसका उपयोग तमाम कंपनियां आपसी सहमति से सामान्य सीमाएं तय करने के लिए कर सकती हैं। जब परप्लेक्सिटी कृत्रिम बुद्धिमत्ता की प्रगति का एक मानक पैमाना बन जाएगी, तो कंपनियां तब तक एक निश्चित सीमा से आगे न बढ़ने की प्रतिबद्धता जता सकती हैं जब तक कि इस तकनीक के व्यवहार को समझने और उसकी निगरानी करने की हमारी क्षमता किसी ठोस मुकाम पर नहीं पहुंच जाती।



















