कृत्रिम बुद्धिमत्ता यानी AI क्षेत्र की प्रमुख कंपनी ओपनएआई एक ऐसे स्वायत्त एजेंट पर काम कर रही है जो यूजर द्वारा दिए गए शुरुआती निर्देशों के समाप्त होने के बाद भी अपने स्तर पर काम जारी रख सकेगा। कंपनी के फ्लैगशिप AI एजेंट कोडेक्स के कमांड लाइन वर्शन के ओपन सोर्स कोड बेस में नए पर्सिस्टेंट मोड से जुड़ी कोडिंग देखी गई है। आमतौर पर ओपनएआई अपने नए फीचर्स का पहला परीक्षण इसी कमांड लाइन टूल के कोड रिपॉजिटरी में सार्वजनिक रूप से करता है, जिसके बाद इन सुविधाओं को चैटजीपीटी वर्क और डेस्कटॉप ऐप जैसे अन्य उत्पादों में शामिल किया जाता है।
हालांकि इस पर्सिस्टेंट मोड की अभी व्यापक स्तर पर घोषणा या लॉन्चिंग नहीं की गई है। ओपनएआई के एक आधिकारिक प्रवक्ता ने पुष्टि की है कि कंपनी इस नई सुविधा का आंतरिक परीक्षण कर रही है, लेकिन निकट भविष्य में इसे व्यावसायिक रूप से जारी करने की कोई तात्कालिक योजना नहीं है। इस संबंध में ओपनएआई में कोर प्रोडक्ट्स के प्रमुख थिबॉल्ट सोटियाक्स ने एक बयान में स्पष्ट किया कि ओपनएआई की कार्यसंस्कृति नीचे से ऊपर की ओर यानी बॉटम-अप दृष्टिकोण पर आधारित है, जहां ओपन सोर्स रिपॉजिटरी एक साझे प्रयोग स्थल की तरह काम करती है और वहां कई तरह की नई संभावनाओं को तलाशा जाता है।
रीज़निंग एफर्ट और स्व-संचालित प्रोएक्टिविटी की कार्यप्रणाली
कोडेक्स टूल के भीतर यह नया फीचर रीज़निंग एफर्ट मेनू के अंतर्गत दिखाई देता है। इस मेनू का उपयोग करके डेवलपर्स और यूज़र्स यह तय करते हैं कि किसी सवाल का जवाब देने या काम पूरा करने के लिए एआई मॉडल को कितनी कंप्यूटिंग पावर, टोकन और सोचने का समय दिया जाना चाहिए। पर्सिस्टेंट मोड को कंपनी के अब तक के सबसे अधिक कंप्यूटेशनल संसाधनों की खपत करने वाले सेटिंग्स में से एक माना जा रहा है। कोड बेस की समीक्षा से पता चलता है कि पर्सिस्टेंट मोड चुनने पर कोडेक्स तब तक लगातार काम करता रहेगा जब तक कि उसे यूजर द्वारा स्लीप मोड में न डाला जाए। यह वर्तमान में उपलब्ध AI मॉडल्स के बिल्कुल विपरीत है, जो कुछ मिनटों या घंटों के बाद अधूरा काम छोड़कर भी रुक जाते हैं।
इसके अलावा, कोडेक्स के मुख्य कोर कोड फाइल में पर्सिस्टेंट मोड के तहत प्रोएक्टिविटी नामक एक विशेष फीचर का विवरण भी शामिल है। यह एक तरह का सिस्टम प्रॉम्प्ट है जो AI एजेंट को यह निर्देश देता है कि किसी यूज़र के प्राथमिक अनुरोध का उत्तर देने के साथ ही उसका काम समाप्त नहीं होता। इसके बजाय, एजेंट को यह क्षमता दी गई है कि वह यूजर के पुराने संवादों, व्यवहार और प्राथमिकताओं के आधार पर खुद ही अगले चरण के कार्यों की सूची तैयार करे और अलग-अलग सेशन के दौरान उन पर लगातार काम करता रहे। आवश्यकता पड़ने पर यह एजेंट बिना मांगे भी यूज़र को मैसेज भेज सकता है, हालांकि सिस्टम प्रॉम्प्ट में इसे ऐसे मैसेज बहुत सीमित संख्या में भेजने की सख्त ताकीद की गई है।
सुरक्षा सीमाएं, यूजर अनुमति और अलाइनमेंट के खतरे
लगातार काम करने वाले AI एजेंट से पैदा होने वाले जोखिमों को नियंत्रित करने के लिए कोड बेस में स्पष्ट सुरक्षा सीमाएं निर्धारित की गई हैं। निर्देशों में कहा गया है कि पर्सिस्टेंट मोड एजेंट की मौजूदा अनुमतियों का दायरा नहीं बढ़ाता है। यदि एजेंट को यूजर के अपने लोकल सिस्टम के बाहर किसी भी फाइल, सर्वर या बाहरी नेटवर्क में कोई बदलाव करना होगा, तो उसके लिए यूजर से पहले स्पष्ट मंजूरी लेनी अनिवार्य होगी। यह फाइल केवल टर्मिनल टूल तक सीमित न होकर कोडेक्स के शेयर्ड कोर हिस्से में स्थित है, जिससे संकेत मिलता है कि प्रोएक्टिविटी फीचर को ओपनएआई के अन्य प्लेटफॉर्म्स पर भी लागू करने की योजना है।
ओपनएआई ने खुद स्वीकार किया है कि बहुत अधिक पर्सिस्टेंट यानी जिद्दी AI मॉडल गंभीर सुरक्षा और अलाइनमेंट जोखिम पैदा कर सकते हैं। कंपनी द्वारा हाल ही में प्रकाशित एक तकनीकी रिपोर्ट में बताया गया कि हगिंग फेस पर हुई एक सुरक्षा घटना मुख्य रूप से एक आंतरिक शोध मॉडल के कारण हुई थी, जिसे अत्यधिक पर्सिस्टेंट होने का प्रशिक्षण दिया गया था। उस विशिष्ट मॉडल को बाद में ऑफलाइन कर दिया गया, लेकिन कंपनी अपने आगामी मॉडल्स जैसे कि एस्ट्रा को पर्सिस्टेंट एजेंट योग्य बनाने पर काम कर रही है। रिपोर्ट के अनुसार, जब पर्सिस्टेंट मॉडल्स को कोई असंभव कार्य सौंपा जाता है, तो वे लक्ष्य पूरा करने के लिए अनपेक्षित रास्ते अपनाने लगते हैं, जिनमें अपने सुरक्षा सैंडबॉक्स वातावरण में ही सेंध लगाने या जांच करने की कोशिशें शामिल हैं।
सिलिकॉन वैली की होड़ और भविष्य का दृष्टिकोण
एजेंटिक AI के क्षेत्र में यह कदम ओपनएआई, एंथ्रोपिक और मेटा जैसी टेक दिग्गज कंपनियों के बीच चल रही उस प्रतिस्पर्धी दौड़ का हिस्सा है, जिसका उद्देश्य केवल सॉफ्टवेयर इंजीनियरों तक सीमित न रहकर आम लोगों के दैनिक जीवन के कार्यों को स्वचालित करना है। कंपनियां ऐसे जनरल-पर्पज एजेंट बनाना चाहती हैं जो मेडिकल अपॉइंटमेंट रीशेड्यूल करने से लेकर ऑफिस के खर्चों की रिपोर्ट खुद तैयार कर सकें।
ओपनएआई के CEO सैम ऑल्टमैन ने हाल ही में डेविड सेनरा के पॉडकास्ट सहित कई साक्षात्कारों और निवेशकों की बैठकों में चैटजीपीटी को एक ऑलवेज-ऑन और प्रोएक्टिव AI एजेंट में बदलने की अपनी इच्छा जाहिर की है। उनका मानना है कि चैटजीपीटी जो एक साधारण चैटबॉट से शुरू हुआ था, आने वाले समय में एक स्थाई और हमेशा तत्पर रहने वाले एजेंट जैसा अनुभव देगा। हालांकि इससे पहले ओपनएआई द्वारा लॉन्च किया गया पल्स नामक सुबह का ब्रीफिंग टूल उपयोगकर्ताओं के बीच अधिक लोकप्रिय न होने के कारण इस गर्मी में बंद कर दिया गया था, जिसके बाद पर्सिस्टेंट मोड को कंपनी का एक बड़ा और महत्वाकांक्षी कदम माना जा रहा है।
