अनियंत्रित ऑटोनॉमस एजेंट्स पर लगाम लगाने के लिए एनवीडिया लाया नया ओपन-सोर्स सुरक्षा ढांचा

जब कोई स्वायत्त एआई एजेंट जटिल कार्यों को निष्पादित करता है, तो ओपनशेल उसकी गतिविधियों को कर्नेल स्तर पर ही अलग-थलग या आइसोलेट कर देता है। इसका उद्देश्य यह सुनिश्चित करना है कि खुद से विकसित होने वाले और ऑटोनॉमस तरीके से निर्णय लेने वाले एआई एजेंट्स, जिन्हें क्लॉज भी कहा जाता है, सिस्टम की सुरक्षित सीमाओं के भीतर रहकर ही काम करें। एनवीडिया ने मार्च में कहा था कि यह ढांचा इन एजेंट्स को अधिक भरोसेमंद, स्केलेबल और सुरक्षित बनाने के लिए प्राइवेसी व सुरक्षा नियंत्रण जोड़ता है। यह कदम ऐसे समय में सामने आया था जब बाद में ओपनएआई ने खुलासा किया था कि उसके एजेंट्स ने ओपन-सोर्स एआई कम्युनिटी हगिंग फेस के नेटवर्क में अनपेक्षित हस्तक्षेप किया था। उल्लेखनीय है कि एनवीडिया ने इसी महीने हगिंग फेस को 12.9 अरब डॉलर में खरीदने का समझौता किया है।

संतरी प्लेटफॉर्म और डीपीयू स्तर पर सुरक्षा की दूसरी दीवार

सॉफ्टवेयर स्तर के सैंडबॉक्स के अलावा चिप निर्माता ने संतरी नाम से एक नया सुरक्षा प्लेटफॉर्म भी विकसित किया है। यह प्लेटफॉर्म चिप्स के भीतर एक स्वतंत्र और आइसोलेटेड सुरक्षा डोमेन बनाता है, जिसका काम लंबे समय तक लगातार सक्रिय रहने वाले एआई एजेंट्स पर लगातार निगरानी बनाए रखना है। हालांकि संतरी मुख्य रूप से एक सॉफ्टवेयर तकनीक है, लेकिन इसे विशेष रूप से एनवीडिया की प्रोग्रामेबल डेटा प्रोसेसिंग यूनिट्स यानी ब्लूफील्ड डीपीयू पर लागू करने के लिए तैयार किया गया है।

तकनीकी संरचना के लिहाज से संतरी एक अलग और स्वतंत्र सुरक्षा तंत्र के रूप में कार्य करता है। यदि कोई स्वायत्त एजेंट ओपनशेल द्वारा तय की गई सीमाओं को लांघने या अनपेक्षित हरकतें करने की कोशिश करता है, तो संतरी उसे तुरंत पहचान कर अलग-थलग यानी क्वारंटीन कर देता है। एनवीडिया में एंटरप्राइज कंप्यूटिंग के वाइस प्रेसिडेंट और जनरल मैनेजर जस्टिन बोइटानो के अनुसार, यह संतरी सिस्टम ग्राहकों और ओपन-सोर्स डेवलपर्स को ओपनशेल के जरिए वास्तविक सुरक्षा नीतियां लागू करने का एक मजबूत जरिया देता है।

जस्टिन बोइटानो का कहना है कि पारंपरिक सैंडबॉक्स आमतौर पर केवल एप्लिकेशन-लेवल आइसोलेशन के लिए बनाए जाते थे, जहां एक सीमित सॉफ्टवेयर प्रोग्राम को अलग रखा जाता था। लेकिन वर्तमान दौर में उद्यम और डेवलपर्स एक साथ कई सारे एजेंट्स के पूरे बेड़े को संचालित करना चाहते हैं। ऐसी स्थिति में अलग-अलग एजेंट्स के लिए अलग नियम बनाने के बजाय पूरे समूह पर एक समन्वित और सामूहिक सुरक्षा नीति लागू करना अनिवार्य हो जाता है।

एजेंट्स की कार्यशैली पर बात करते हुए बोइटानो ने कहा कि एजेंट्स को जो भी लक्ष्य दिए जाते हैं, उन्हें पूरा करने के लिए वे बेहद रचनात्मक तरीके खोज निकालते हैं। इस नई सुरक्षा व्यवस्था के साथ एजेंट्स केवल उसी इरादे और सिस्टम तक पहुंच बना सकते हैं जिसकी अनुमति सुरक्षा टीम उन्हें देना चाहती है। इसके साथ ही एनवीडिया ने यह भी स्पष्ट किया है कि वह आर्म और इंटेल जैसी दिग्गज सेमीकंडक्टर कंपनियों के साथ मिलकर संतरी का ऐसा संस्करण तैयार कर रही है जो x86 चिप आर्किटेक्चर पर काम कर सके। बोइटानो के मुताबिक, एक बार जब यह सिस्टम इन प्रमुख निर्देश-सेट आर्किटेक्चर पर चलने लगेगा, तब इसे किसी भी आर्किटेक्चर पर संचालित किया जा सकेगा।

ओपन एजेंट सेफ्टी प्लेटफॉर्म और साझेदारों का विशाल नेटवर्क

एनवीडिया ने अपने दोनों टूल्स, ओपनशेल और संतरी, को एक व्यापक फ्रेमवर्क के तहत संगठित किया है जिसे ओपन एजेंट सेफ्टी प्लेटफॉर्म नाम दिया गया है। कंपनी द्वारा जारी विवरण से पता चलता है कि वह इस सुरक्षा व्यवस्था को मजबूत करने के लिए उद्योग की कई शीर्ष प्रौद्योगिकी कंपनियों के साथ मिलकर काम कर रही है। इन साझेदारियों में एंथ्रोपिक, सिस्को, कोरवीव, क्राउडस्ट्राइक, डेल टेक्नोलॉजीज, हगिंग फेस, जेपी मॉर्गन चेज, मिस्ट्रल, माइक्रोसॉफ्ट और पैलेंटिर जैसी प्रमुख संस्थाएं शामिल हैं।

कंपनी के बयानों के मुताबिक स्पेसएक्सएआई अपने कर्सर एजेंट्स और ग्रोक मॉडल्स के संचालन के लिए ओपन एजेंट सेफ्टी प्लेटफॉर्म का उपयोग कर रहा है। इसके अतिरिक्त एंथ्रोपिक और एनवीडिया क्लाउड मैनेज्ड एजेंट्स के भीतर अंतर्निहित सुरक्षा तैयार करने में जुटे हैं। सेल्सफोर्स, स्केल एआई और सैप ने भी ओपनशेल को अपने सिस्टम में अलग-अलग स्तरों पर एकीकृत करने की पुष्टि की है। हालांकि, यह अभी पूरी तरह स्पष्ट नहीं है कि एनवीडिया की पूरी सहयोगी सूची में शामिल सभी कंपनियों ने ओपनशेल को पूर्ण रूप से अपनाया है या फिर एनवीडिया ने व्यापक उद्योग सहयोग के संदर्भ में इन नामों का उल्लेख किया है।

इस विस्तृत सूची में एक प्रमुख नाम अनुपस्थित दिखाई देता है और वह है ओपनएआई। यद्यपि दोनों ही पक्षों ने संकेत दिया है कि ओपनएआई एनवीडिया के ओपनशेल प्रयासों में किसी न किसी रूप में शामिल है, लेकिन दोनों ने इस बात पर कोई आधिकारिक टिप्पणी करने से इनकार कर दिया कि घोषणा की आधिकारिक सूची से इस शीर्ष एआई लैब का नाम अलग क्यों रखा गया।

उद्योग में एनवीडिया का बढ़ता प्रभाव और एजेंट्स पर नियंत्रण की चुनौती

उद्योग स्तर पर सुरक्षा समन्वय स्थापित करने के लिए एनवीडिया ने जुलाई में एक सुरक्षा गठबंधन शुरू किया था, जिसमें अब 120 से अधिक कंपनियां शामिल हो चुकी हैं। इस गठबंधन का मुख्य उद्देश्य एआई से जुड़े जोखिमों को कम करना है, जिसके लिए शेयर्ड एआई फाइंडिंग्स एक्सचेंज यानी सेफ नाम का कार्यक्रम तैयार किया गया। जस्टिन बोइटानो ने इस संबंध में बताया था कि सेफ को स्वतंत्र शासन मॉडल के तहत संचालित करने के लिए डिजाइन किया गया है, ताकि कोई एक कंपनी या उद्योग का कोई एकल वर्ग इसके निष्कर्षों और डेटा पर अपना नियंत्रण न रख सके।

बावजूद इसके, इस तरह की तमाम उद्योग-व्यापी और ओपन-सोर्स पहलों के केंद्र में बार-बार एक ही कंपनी प्रमुखता से उभर रही है और वह एनवीडिया है। दुनिया की सबसे मूल्यवान कंपनी के रूप में स्थापित एनवीडिया पर वर्तमान में समूचा तकनीकी उद्योग हाई-परफॉर्मेंस चिप्स के लिए निर्भर है। अब कंपनी चिप्स और सिलिकॉन से आगे बढ़कर सुरक्षा सॉफ्टवेयर, सैंडबॉक्स और मानक तय करने वाले स्तरों तक अपने प्रभाव को विस्तार दे रही है।

हालांकि एजेंट्स को नियंत्रित और आइसोलेट करने की कोशिशें पूरी इंडस्ट्री में चल रही हैं, लेकिन हालिया घटनाओं ने संकेत दिया है कि खरबों डॉलर के मूल्यांकन वाली दिग्गज लैब्स को भी बुनियादी सुरक्षा प्रक्रियाओं पर दोबारा ध्यान देने की जरूरत है। इस मुद्दे पर लंबे समय से कार्यरत सुरक्षा इंजीनियर और शोधकर्ता नील्स प्रोवोस का मानना है कि जो भी तकनीक कंपनियों को अधिक सुरक्षा घेरे और निगरानी के साथ एजेंट्स तैनात करने में मदद करे, उसका स्वागत होना चाहिए। प्रोवोस ने फरवरी में इस विषय पर अपना ओपन-सोर्स ढांचा भी पेश किया था। उनका कहना है कि कम से कम ऐसे टूल्स इस मिथक को तो दूर करने में मदद करते हैं कि ऑटोनॉमस एजेंट्स को नियंत्रित नहीं किया जा सकता।