ब्लैक हैट सम्मेलन में साइबर शोधकर्ता केटल का खुलासा, इंसानी तालमेल से ही सामने आ रहे हैं गंभीर साइबर खतरे

ऐसे में दोनों प्रकार के डेटा को प्रोसेस करने के लिए एक ही पार्सर कोड का उपयोग करने से सुरक्षा की सीमाएं धुंधली हो जाती हैं। यह स्थिति एक बहुत बड़ा हमला क्षेत्र पैदा करती है, जो कई अलग-अलग प्रकार के साइबर हमलों का कारण बन सकती है और विभिन्न वेब अनुप्रयोगों को प्रभावित कर सकती है।

एआई की भ्रामक जानकारियों पर इंसानी नियंत्रण

यह शोध प्रयोग सितंबर 2025 में शुरू हुआ था, जिसमें एंथ्रोपिक और ओपनएआई के उस समय के सबसे आधुनिक मॉडलों का उपयोग किया गया था। शुरुआती परीक्षणों का मुख्य उद्देश्य यह जांचना था कि क्या एआई मॉडल सैद्धांतिक सुरक्षा अनुसंधान कर सकते हैं। हालांकि, शुरुआत में एक बड़ी व्यावहारिक समस्या सामने आई जब एआई मॉडल पुराने शोध को ही नया बताकर पेश करने लगे और बहुत जटिल विषयों पर ऐसी जानकारी देने लगे जिसकी जांच करना अत्यंत कठिन था।

इस समस्या से निपटने के लिए, केटल ने प्रयोग के दायरे को अपनी वेब सुरक्षा विशेषज्ञता तक सीमित कर दिया। इस कदम से उन्हें विषय सामग्री पर पूरा नियंत्रण मिला और एआई मॉडल उन्हें भ्रमित नहीं कर सके। इसके अलावा, अपने स्वयं के शोध तरीकों को व्यवस्थित करके और मॉडलों को उस पर प्रशिक्षित करके, वह यह जांचने में सक्षम हुए कि एआई प्रणालियां अपने स्तर पर किस सीमा तक नए तार्किक निष्कर्ष निकाल सकती हैं।

तेज अनुसंधान चक्र और डेटा प्रबंधन की चुनौती

जैसे-जैसे प्रयोग के तरीकों को सुधारा गया और समय के साथ अधिक शक्तिशाली मॉडल सामने आए, प्रणाली ने इंसानी क्षमता से कहीं अधिक तेजी से नए निष्कर्ष देने शुरू कर दिए। बिना किसी इंसानी हस्तक्षेप के हर दो दिन में एक महत्वपूर्ण निष्कर्ष सामने आने लगा। इस स्थिति ने शोधकर्ता के सामने एक अनोखी चुनौती खड़ी कर दी, क्योंकि शोध के इतने सारे नए रास्ते खुल रहे थे कि उन सभी का मैनुअल विश्लेषण करना असंभव था और यह डर बना रहता था कि कहीं कोई महत्वपूर्ण सुराग छूट न जाए।

नतीजतन, शोधकर्ता को विश्लेषण प्रक्रिया को और अधिक स्वचालित करने के लिए नए उपकरण विकसित करने पड़े। इस संयुक्त प्रयास के माध्यम से कुछ ही महीनों में सुरक्षा की इतनी सत्यापित कमियां खोजी गईं, जिन्हें खोजने में एक अकेला इंसानी शोधकर्ता कई वर्षों का समय लेता।

साइबर सुरक्षा में मानव और एआई के तालमेल का महत्व

यद्यपि एआई प्रणाली ने कमियों की एक पूरी तरह से नई श्रेणी की परिकल्पना तैयार की, लेकिन वह अपने आप इसे पूरी तरह साबित नहीं कर सकी। शेयर्ड पार्सर कन्फ्यूज़न की खोज इस बात का एक आदर्श उदाहरण है कि एआई और इंसान मिलकर किस प्रकार रक्षात्मक और आक्रामक साइबर सुरक्षा अनुसंधान को नई दिशा दे सकते हैं। एआई मॉडलों ने वास्तविक आंकड़ों का विश्लेषण करके परिकल्पना तैयार की, जबकि इंसानी विशेषज्ञता ने उस परिकल्पना का मूल्यांकन करके उसकी तकनीकी सत्यता की पुष्टि की।

केटल ने बताया, "यह अकेले यह काम नहीं कर सकता था, लेकिन मैं भी इसे अकेले कभी नहीं खोज पाता।"

वर्तमान में साइबर सुरक्षा उद्योग में एआई की सीमाओं पर बहुत कम चर्चा होती है, क्योंकि व्यावसायिक कारणों से हर कंपनी अपनी प्रणालियों को पूरी तरह से एआई संचालित दिखाना चाहती है। हालांकि, यह प्रयोग साबित करता है कि भविष्य की साइबर रक्षा और हमला रणनीतियों में इंसान और तकनीक का यह तालमेल ही सबसे प्रभावी भूमिका निभाएगा।