आर्टिफिशियल इंटेलिजेंस या एआई के गलत उत्तर देने की समस्या, जिसे हॉलुसिनेशन कहा जाता है, अब केवल एक तकनीकी त्रुटि से बढ़कर एक गंभीर सुरक्षा खतरा बन गई है। हालिया शोध के अनुसार, हैकर्स इस कमजोरी का फायदा उठाकर कंप्यूटर सिस्टम पर कब्जा करने के लिए एआई का इस्तेमाल कर सकते हैं। यह चेतावनी टेल अवीव यूनिवर्सिटी, टेक्नियोन और इंट्यूट के विशेषज्ञों ने एक संयुक्त शोध पत्र के माध्यम से दी है।
हॉलुस्क्वाटिन (HalluSquatting) तकनीक का खतरा
शोधकर्ताओं ने अपने पेपर में एक नई तकनीक का प्रदर्शन किया है, जिसका नाम 'हॉलुस्क्वाटिन' रखा गया है। यह 'एडवर्सरियल हॉलुसिनेशन स्क्वाटिन' का संक्षिप्त रूप है। यह प्रक्रिया तब काम करती है जब एआई मॉडल इंटरनेट पर मौजूद सॉफ्टवेयर रिपॉजिटरी या अन्य ऑनलाइन संसाधनों के बारे में झूठे लिंक बनाता है। हैकर्स पहले से ही अनुमान लगा लेते हैं कि एआई किन फर्जी लिंक को बनाने की संभावना रखता है, फिर उन नामों को पहले ही रजिस्टर कर लेते हैं और उनमें हानिकारक कोड या निर्देश डाल देते हैं। जब कोई एआई एजेंट बाद में इन फर्जी संसाधनों को हासिल करता है, तो वह उन हानिकारक निर्देशों को सही मान लेता है, जिससे सुरक्षा तंत्र टूट जाता है।
प्रॉम्प्टवेयर और एआई की कार्यक्षमता
विशेषज्ञों ने चेतावनी दी है कि जैसे-जैसे एआई सहायकों की क्षमताएं बढ़ रही हैं, वे केवल सवालों के जवाब देने तक सीमित नहीं रह गए हैं। आज के एआई एजेंट फाइलों तक पहुंच सकते हैं, वेब पर सर्च कर सकते हैं, कोड लिख सकते हैं और कमांड चला सकते हैं। जब ये एजेंट बिना किसी पुष्टिकरण के ऐसी जानकारी पर भरोसा करते हैं, तो सुरक्षा में बड़ी दरारें पैदा हो जाती हैं। इस खतरे को 'प्रॉम्प्टवेयर' नाम दिया गया है, जो एआई अनुप्रयोगों को निशाना बनाने का एक नया तरीका है। शोध के अनुसार, चैटजीपीटी, गूगल असिस्टेंट और कोपायलट जैसे वास्तविक दुनिया के सिस्टम पर भी इस तरह के हमले किए जा सकते हैं, जिससे वित्तीय नुकसान, निजता का उल्लंघन और सुरक्षा संबंधी खतरे उत्पन्न हो सकते हैं।
बॉटनेट निर्माण का बढ़ता खतरा
शोधकर्ताओं का मानना है कि इस तकनीक के जरिए हमलावर एआई-सक्षम बॉटनेट तैयार कर सकते हैं। बॉटनेट उन संक्रमित कंप्यूटरों या उपकरणों का एक नेटवर्क होता है जिसे कोई बाहरी व्यक्ति दूर से नियंत्रित करता है। इनका उपयोग साइबर हमलों, जैसे कि सेवा से इनकार (DoS) के हमले, क्रिप्टोकरेंसी माइनिंग, मालवेयर फैलाने और फिरौती मांगने (रैंसमवेयर) जैसे आपराधिक कार्यों में किया जाता है। परीक्षणों के दौरान, रिपॉजिटरी क्लोनिंग के मामलों में एआई द्वारा हॉलुसिनेशन की दर 85 फीसदी तक पाई गई, जबकि स्किल इंस्टालेशन परीक्षणों में यह दर 100 फीसदी तक रही। इस अध्ययन में कर्सर, गिटहब कोपायलट, जेमिनी सीएलआई और ओपनक्लॉ जैसे प्रसिद्ध एआई कोडिंग सहायकों का मूल्यांकन किया गया। यह रणनीति 'टाइपोसक्वाटिन' के समान है, लेकिन जहां टाइपोसक्वाटिन इंसानी टाइपिंग की गलतियों को निशाना बनाती है, वहीं हॉलुस्क्वाटिन एआई मॉडल द्वारा की गई गलतियों का लाभ उठाती है।
