बेकाबू कृत्रिम बुद्धिमत्ता पर लगाम कसने के लिए कैलिफोर्निया ला रहा आपातकालीन शटडाउन नियम, दो महीने में तैयार होगा खाका

कैलिफोर्निया के गवर्नर गेविन न्यूसम ने एडवांस एआई मॉडल्स के संभावित खतरों को देखते हुए दो महीने के भीतर सख्त सुरक्षा नियम और आपातकालीन किल स्विच तंत्र अनिवार्य करने के निर्देश दिए हैं।

आर्टिफिशियल इंटेलिजेंस के अभूतपूर्व विकास और तेजी से बढ़ती क्षमताओं के बीच दुनिया भर में मशीनों के नियंत्रण से बाहर जाने की आशंकाएं गहरी होने लगी हैं। इसी गंभीर परिप्रेक्ष्य में कैलिफोर्निया के गवर्नर गेविन न्यूसम ने एआई सिस्टम्स की सख्त निगरानी सुनिश्चित करने की दिशा में बड़ा प्रशासनिक फैसला लिया है। उभरती तकनीकी चुनौतियों का जिक्र करते हुए न्यूसम ने स्पष्ट किया कि मानव सभ्यता के लिए इस तकनीक को किसी भी सूरत में खतरा नहीं बनने दिया जाएगा। इसी संकल्प के साथ उन्होंने एआई सुरक्षा से जुड़े एक विशेष वर्किंग ग्रुप का गठन करते हुए उसे बेहद कम समय में एक व्यापक सुरक्षा रूपरेखा तैयार करने की जिम्मेदारी सौंपी है।

गवर्नर द्वारा गठित इस विशेषज्ञ पैनल को एडवांस फ्रंटियर मॉडल्स के नियमन हेतु कड़े नियम तय करने के लिए केवल दो महीने की समयसीमा दी गई है। विशेषज्ञों के सामने सबसे मुख्य कार्य ऐसे प्रावधान तय करना है, जिससे तकनीकी विकास के साथ सुरक्षा मानकों में कोई ढिलाई न रहे। इस पूरी नीति का केंद्र बिंदु एक आपातकालीन शटऑफ अथवा 'किल स्विच' सिस्टम स्थापित करना है। यदि कोई अत्यधिक शक्तिशाली मॉडल अप्रत्याशित या अनियंत्रित रूप अख्तियार कर ले, तो यह स्विच एक झटके में पूरे सिस्टम को बंद कर संभावित विनाशकारी नुकसान को टालने में सक्षम होगा। यह कदम तकनीकी उद्यमों द्वारा अपनी मर्जी से काम करने के दौर पर विराम लगाने का ठोस संकेत देता है, जिसके बाद तमाम बड़ी लैब्स को कड़े विनियामक दायरे से गुजरना पड़ेगा।

आपातकालीन शटऑफ और स्वतंत्र ऑडिट की कड़ी व्यवस्था
प्रस्तावित नियमों के लागू होने के बाद उन्नत सॉफ्टवेयर तैयार करने वाले एआई डेवलपर्स की जवाबदेही काफी बढ़ जाएगी। हर अत्याधुनिक मॉडल के भीतर अनिवार्य रूप से एक प्रमाणित आपातकालीन शटडाउन सिस्टम जोड़ना होगा। यदि एल्गोरिदम अथवा मॉडल वास्तविक दुनिया में खतरनाक या असामान्य व्यवहार दिखाता है, तो इस तंत्र के जरिए उसे तत्काल निष्क्रिय किया जा सकेगा। संवेदनशील डिजिटल नेटवर्क, पावर ग्रिड या जरूरी बुनियादी ढांचे को अप्रत्याशित तकनीकी गड़बड़ियों से सुरक्षित रखने के लिए इसे सबसे प्रभावी सुरक्षा कवच माना जा रहा है। केवल किल स्विच लगाना ही काफी नहीं होगा, बल्कि कंपनियों को स्वतंत्र ऑडिटरों की निगरानी में इस तंत्र का नियमित परीक्षण कराकर सुरक्षा प्रमाण पत्र भी हासिल करना होगा।

एआई प्रयोगशालाओं में स्वतंत्र निगरानी अधिकारियों की नियुक्ति
अब तक के दौर में अधिकांश अग्रणी तकनीकी फर्में अपने सुरक्षा मानक और परिचालन संबंधी प्रोटोकॉल खुद ही निर्धारित करती रही हैं। प्रस्तावित दिशा-निर्देश इस स्वैच्छिक छूट को पूरी तरह से समाप्त कर सकते हैं। नए प्रावधानों की वजह से ओपनएआई, एंथ्रोपिक और गूगल डीपमाइंड जैसी प्रमुख संस्थाओं को अपने कार्य संचालन में बड़े नीतिगत बदलाव करने पड़ सकते हैं। तैयार किए जा रहे मसौदे के तहत इन कंपनियों को अपने कार्यालयों में स्वतंत्र पर्यवेक्षकों या अधिकारियों की मौजूदगी को स्वीकार करना पड़ सकता है। ये बाहरी विशेषज्ञ नए मॉडल्स के मूल्यांकन, डेटा प्रोसेसिंग और सुरक्षा परीक्षणों पर चौबीसों घंटे सीधी नजर रखेंगे, जिससे इन प्रयोगों में सार्वजनिक पारदर्शिता और जवाबदेही दोनों सुनिश्चित हो सकेगी।

राष्ट्रीय कानून के अभाव में कैलिफोर्निया बना पथप्रदर्शक
विश्व स्तर पर चर्चित सबसे बड़ी कृत्रिम बुद्धिमत्ता प्रयोगशालाओं और टेक कंपनियों का प्रमुख केंद्र कैलिफोर्निया ही है। इसके बावजूद अमेरिका में संघीय स्तर पर एआई के नियंत्रण को लेकर अब तक कोई सर्वमान्य राष्ट्रीय कानून या कड़ा ढांचा मौजूद नहीं है। फेडरल सरकार की इस सुस्त कार्यशैली को देखते हुए प्रांतीय नेतृत्व को स्वयं कड़े नियम तय करने का मार्ग चुनना पड़ा है। स्थानीय नीति-निर्माताओं का मानना है कि एल्गोरिदम के इतने तीव्र प्रसार के बीच सुरक्षा नियमों को टालना भारी पड़ सकता है। कैलिफोर्निया द्वारा तैयार की जा रही यह सुरक्षा रूपरेखा पूरे अमेरिका के लिए एक राष्ट्रीय खाके का काम करेगी, जो भविष्य के विनाशकारी जोखिमों को रोकने के साथ-साथ नवाचार और जनसुरक्षा के बीच संतुलित तालमेल स्थापित करेगी।

इसका आप पर असर
कैलिफोर्निया में बन रहे ये कड़े सुरक्षा नियम वैश्विक टेक उद्योग के साथ-साथ उन सभी इंटरनेट यूजर्स और उपभोक्ताओं को प्रभावित करेंगे जो रोजमर्रा के कामों में एआई टूल्स का उपयोग करते हैं।

• उपभोक्ताओं और आम यूजर्स पर प्रभाव: डिजिटल टूल्स और दैनिक सेवाओं में उपयोग होने वाले एआई सिस्टम अब अधिक सुरक्षित और परीक्षण के बाद ही बाजार में आएंगे। इसका सीधा मतलब है कि संवेदनशील डेटा, बैंकिंग और रोजमर्रा के ऑटोमेशन में गंभीर तकनीकी गड़बड़ियों या अनियंत्रित व्यवहार का खतरा काफी हद तक घट जाएगा।
• तकनीकी कंपनियों और स्टार्टअप्स पर: बड़ी प्रयोगशालाओं को अपने सॉफ्टवेयर में अनिवार्य शटऑफ तंत्र जोड़ने और स्वतंत्र ऑडिटरों को नियुक्त करने पर भारी बजट खर्च करना होगा। इस कड़े विनियामक अनुपालन के चलते नए मॉडल्स की बाजार में लॉन्चिंग की रफ्तार कुछ हद तक धीमी हो सकती है।
• वैश्विक विनियामक नीतियों पर असर: दुनिया की सबसे बड़ी टेक फर्मों का मुख्यालय कैलिफोर्निया में होने के कारण ये नियम अंतरराष्ट्रीय तकनीकी मानकों का पैमाना बन जाएंगे। यदि कोई विदेशी कंपनी अमेरिकी बाजार के लिए मॉडल तैयार करेगी, तो उसे भी इन सख्त सेफ्टी मानकों और पारदर्शी प्रक्रियाओं को अपनाना होगा।
• डिजिटल इंफ्रास्ट्रक्चर की सुरक्षा: पावर ग्रिड, हेल्थकेयर नेटवर्क और वित्तीय प्रणालियों को एआई की संभावित तकनीकी विफलता से सुरक्षित रखने के लिए बैकअप रास्ते मजबूत होंगे। इससे किसी भी गंभीर साइबर अथवा तकनीकी खतरे के समय पूरे सिस्टम को नुकसान से पहले ही रोका जा सकेगा।

ऐसा क्यों हुआ
आर्टिफिशियल इंटेलिजेंस की अनियंत्रित प्रगति को लेकर बढ़ते वैश्विक संशयों और अमेरिकी राष्ट्रीय स्तर पर स्पष्ट कानूनों के अभाव के चलते कैलिफोर्निया को यह कदम उठाना पड़ा है। राज्य सरकार ने तकनीक के अनपेक्षित परिणामों से सार्वजनिक सुरक्षा को बचाने के लिए यह पहल की है।

• फ्रंटियर मॉडल्स का बेलगाम विकास: हाल के महीनों में फ्रंटियर मॉडल्स की निर्णय लेने और कार्य करने की क्षमताएं अत्यधिक जटिल हो गई हैं, जिससे उनके अनपेक्षित बर्ताव का खतरा बढ़ गया है। इसी अनिश्चितता के कारण नीति-निर्माताओं को तुरंत बाध्यकारी सुरक्षा उपाय लागू करने की आवश्यकता महसूस हुई।
• संघीय स्तर पर सख्त कानूनों की कमी: संयुक्त राज्य अमेरिका में राष्ट्रीय स्तर पर उन्नत एआई को नियंत्रित करने के लिए कोई व्यापक और अनिवार्य केंद्रीय कानून अब तक नहीं बन सका है। संघीय सुस्ती को देखते हुए तकनीकी कंपनियों के गृह राज्य कैलिफोर्निया ने आगे बढ़कर नियम बनाने का फैसला किया।
• कंपनियों का स्वैच्छिक और अप्रमाणित नियमन: अब तक प्रमुख टेक कंपनियां अपनी सुरक्षा नीतियों और जोखिम परीक्षणों का निर्धारण स्वयं करती रही हैं, जिसमें बाहरी पारदर्शिता की भारी कमी थी। स्वतंत्र अधिकारियों और ऑडिटरों की अनिवार्यता लाकर इस मनमानी कार्यशैली को समाप्त करने का प्रयास किया गया है।

सवाल-जवाब

1. कैलिफोर्निया के गवर्नर ने एआई को लेकर क्या बड़ा कदम उठाया है?
गवर्नर गेविन न्यूसम ने एआई सुरक्षा के लिए एक विशेष वर्किंग ग्रुप गठित कर दो महीने में एडवांस मॉडल्स के लिए कड़े नियम तैयार करने के निर्देश दिए हैं।

2. प्रस्तावित नियमों में 'किल स्विच' का क्या महत्व है?
यह एक प्रमाणित आपातकालीन शटऑफ प्रणाली होगी जो किसी एआई मॉडल के नियंत्रण से बाहर या खतरनाक होने पर उसे तुरंत बंद कर सकेगी।

3. इस नए आदेश से कौन-सी प्रमुख कंपनियां प्रभावित होंगी?
इस आदेश से ओपनएआई, एंथ्रोपिक और गूगल डीपमाइंड जैसी अग्रणी एआई कंपनियां सीधे तौर पर प्रभावित होंगी।

4. क्या कंपनियों को बाहरी निगरानी का सामना करना पड़ेगा?
हां, नए प्रस्ताव के तहत लैब्स में स्वतंत्र अधिकारियों की तैनाती और इंडिपेंडेंट ऑडिटर्स से नियमित टेस्टिंग कराना अनिवार्य हो सकता है।

5. कैलिफोर्निया को अपने स्तर पर यह नियम क्यों बनाने पड़े?
अमेरिका में संघीय स्तर पर एआई को लेकर कोई सख्त राष्ट्रीय नियम न होने के कारण कैलिफोर्निया को स्वयं आगे आकर यह कदम उठाना पड़ा।

https://trendkia.com/america/california-orders-rapid-blueprint-for-ai-emergency-kill-switch-as-frontier-models-expand-33950
TrendKia — Har trend, sabse pehle.