साहित्यिक दुनिया में तहलका मचाने वाला एआई डिटेक्टर पैंग्राम कितना सटीक है, जानिए इसकी पूरी सच्चाई

डिजिटल प्रकाशन के क्षेत्र में भी इसका असर देखने को मिला। जुलाई के अंत में सबस्टैक ने घोषणा की कि वह अपने प्लेटफॉर्म पर पैंग्राम को एकीकृत कर रहा है ताकि पाठक यह तुरंत जान सकें कि किसी लेख में AI का उपयोग किया गया है या नहीं। हालांकि, सभी लेखक इस कदम से खुश नहीं हैं। लेखक और प्रकाशन विशेषज्ञ जेन फ्रीडमैन के अनुसार, लेखकों और रचनाकारों के बीच इस एआई डिटेक्शन सॉफ्टवेयर को लेकर भारी नाराजगी और गुस्सा है। कई लोगों का मानना है कि ये डिटेक्शन कंपनियां खुद AI कंपनियों की तरह या उनसे भी अधिक नुकसान पहुंचा रही हैं। प्रकाशन और उच्च शिक्षा के क्षेत्रों के बाहर पैंग्राम अभी बहुत प्रसिद्ध नहीं है, लेकिन जैसे-जैसे इंसान द्वारा लिखे गए कंटेंट और कंप्यूटर द्वारा तैयार कंटेंट के बीच अंतर करने की मांग बढ़ रही है, पैंग्राम की पैठ बढ़ती जा रही है।

पैंग्राम की शुरुआत और संस्थापकों का सफर

पैंग्राम के सह-संस्थापक मैक्स स्पैरो की पृष्ठभूमि तकनीकी रही है। लॉस एंजिल्स के उपनगर ला क्रिसेंटा में पले-बढ़े स्पैरो को बचपन से ही प्रोग्रामिंग और रोबोटिक्स का शौक था। स्टैनफोर्ड यूनिवर्सिटी में पढ़ाई के दौरान उनकी मुलाकात ब्रैडली एमी से हुई, जो आगे चलकर पैंग्राम के सह-संस्थापक बने। स्टैनफोर्ड से पढ़ाई पूरी करने के बाद स्पैरो ने गूगल में काम किया, जहां वे एफएलओसी (FLoC) नामक तकनीक पर काम कर रहे थे। गूगल ने 2022 में गोपनीयता चिंताओं के कारण इस प्रोजेक्ट को बंद कर दिया था। इसके बाद स्पैरो ने स्वायत्त कार कंपनी न्यूरो में काम किया, जबकि एमी ने टेस्ला और AI बायोटेक कंपनी एब्सी में अपनी सेवाएं दीं।

वर्ष 2022 के अंत में जब चैटजीपीटी लॉन्च हुआ, तो स्पैरो और एमी ने भविष्य में एआई-जनरेटेड सामग्री की बाढ़ आने की संभावना को देखा और एक व्यापारिक अवसर पहचाना। उन्होंने 2023 में चेकफॉर.एआई (Checkfor.ai) नाम से कंपनी की नींव रखी, जिसका नाम एक साल बाद बदलकर पैंग्राम कर दिया गया। उस समय तक बाजार में ओरिजिनलिटी.एआई, जीपीटीज़ीरो और टर्नइटइन जैसी दर्जनों कंपनियां AI डिटेक्शन के क्षेत्र में उतर चुकी थीं। लेकिन शुरुआती स्वतंत्र परीक्षणों में बेहतर प्रदर्शन के कारण पैंग्राम इस रेस में सबसे आगे निकलकर उभरा।

सिंथेटिक मिररिंग और पैंग्राम का कार्यप्रणाली मॉडल

एआई सामग्री की पहचान करने के लिए पैंग्राम एक विशेष तकनीक का उपयोग करता है जिसे सिंथेटिक मिररिंग कहा जाता है। इस प्रक्रिया में पैंग्राम इंसान द्वारा लिखे गए टेक्स्ट को लेता है और बड़े भाषा मॉडल (LLM) से उसका बिल्कुल समान रूप तैयार करवाता है। इससे पैंग्राम के मॉडल को यह सीखने में मदद मिलती है कि AI किस तरह से लिखता है। इसके अलावा पैंग्राम 'हार्ड नेगेटिव माइनिंग' तकनीक का भी उपयोग करता है, जिसमें वह उन गलत परिणामों या फॉल्स पॉजिटिव को खोजता है जिनका उपयोग वह अपने मॉडल को दोबारा प्रशिक्षित करने के लिए कर सकता है।

मैक्स स्पैरो के अनुसार, पैंग्राम के सभी डेटासेट पूरी तरह से लाइसेंस प्राप्त हैं, जो कि आज की AI दुनिया में काफी दुर्लभ है। हालांकि इसका एक कारण यह भी है कि पैंग्राम को चैटजीपीटी या क्लॉड की तुलना में बहुत कम डेटा की आवश्यकता होती है। आज पैंग्राम शिक्षा, कानूनी क्षेत्र और भर्ती सहित कई उद्योगों को अपनी सेवाएं दे रहा है, लेकिन रचनात्मक लेखन इसके प्रशिक्षण टेक्स्ट का सबसे बड़ा हिस्सा बना हुआ है।

विवाद, पाइरेटेड फाइलें और उद्योग पर प्रभाव

शाई गर्ल मामले ने पैंग्राम को अचानक चर्चा के केंद्र में ला खड़ा किया। जनवरी में जब स्पैरो को रेडिट पोस्ट में टैग किया गया और मिया बलार्ड की पांडुलिपि की पीडीएफ फाइल भेजी गई, तो उन्होंने उसे पैंग्राम में डाला और स्कोर सार्वजनिक कर दिया। हालांकि इस मामले में एक विवाद यह भी सामने आया कि स्पैरो के पास जो पांडुलिपि पहुंची थी, वह एक पायरेटेड वेबसाइट से ली गई थी। जब इस बारे में स्पैरो से पूछा गया, तो उन्होंने माना कि उन्होंने फाइल को ध्यान से नहीं देखा था और सीधे पैंग्राम में डाल दिया था।

पैंग्राम ने इसके बाद भी कई मामलों को उजागर किया। कॉमनवेल्थ शॉर्ट स्टोरी प्राइस की एक विजेता रचना के फ्लैग होने के बाद कंपनी ने 2012 के बाद के सभी विजेताओं की रचनाओं का विश्लेषण किया और तीन अन्य संभावित AI उपयोग के मामलों को उजागर किया। हालांकि स्पैरो का दावा है कि किसी किताब का सौदा रद्द होने में केवल पैंग्राम का स्कोर ही एकमात्र कारण नहीं होता, बल्कि यह बड़े फैसले का एक छोटा हिस्सा होता है।

सबस्टैक और बड़े प्रकाशकों की प्रतिक्रिया

सबस्टैक द्वारा पैंग्राम को जोड़े जाने पर कई लेखकों ने चिंता जताई है। सबस्टैक के प्रतिनिधि का कहना है कि उनकी नीति AI के खिलाफ नहीं है, बल्कि वे केवल यह चाहते हैं कि पाठकों को पता हो कि वे क्या पढ़ रहे हैं। वहीं प्रकाशन उद्योग के 'बिग फाइव' कहे जाने वाले प्रमुख प्रकाशकों की बात करें तो साइमन एंड शूस्टर और हार्परकॉलिंस ने इस पर कोई टिप्पणी करने से इनकार कर दिया, जबकि ह्याशेट और मैकमिलन ने कोई जवाब नहीं दिया।

पेंग्विन रैंडम हाउस के एक प्रवक्ता ने पुष्टि की कि उनके संपादक संभावित AI सामग्री की पहचान के लिए स्वीकृत एआई-डिक्शन टूल का उपयोग एक अतिरिक्त साधन के रूप में कर सकते हैं, लेकिन यह टूल अंतिम निर्णय नहीं लेते और यह व्यापक संपादकीय प्रक्रिया का केवल एक हिस्सा हैं। कई साहित्यिक एजेंट भी अब पैंग्राम का इस्तेमाल कर रहे हैं। ऐविटास एजेंसी के टॉड शूस्टर का कहना है कि वे पांडुलिपियों की जांच के लिए पैंग्राम का उपयोग कर रहे हैं और जब लेखकों को 50 से 95 प्रतिशत तक AI उपयोग का स्कोर दिखाया जाता है, तो कई लेखक अपनी गलती स्वीकार कर लेते हैं।

अकादमिक अध्ययन, पूर्वाग्रह और तकनीकी सीमाएं

पैंग्राम और अन्य AI डिटेक्टर्स पर सबसे बड़ा सवाल उनकी सटीकता और पूर्वाग्रह को लेकर उठ रहा है। एडिनबर्ग नेपियर यूनिवर्सिटी के प्रोफेसर सैम इलिंगवर्थ का तर्क है कि ये डिटेक्टर्स पूरी तरह सटीक नहीं हैं और ये गैर-अंग्रेजी भाषी लेखकों तथा न्यूरोडायवर्स लेखकों के प्रति पूर्वाग्रह रखते हैं। शोध बताते हैं कि जिन लोगों की पहली भाषा अंग्रेजी नहीं है, उनके लिखे लेखों को एआई डिटेक्टर अक्सर गलती से एआई-जनरेटेड बता देते हैं। इसके अलावा शाई गर्ल, डैगरमाउथ और कॉल मी जैसी विवादों में फंसी तीनों किताबों के लेखक भी अश्वेत या अल्पसंख्यक समुदायों से थे, जिससे उद्योग में असमानता की चिंताओं को बल मिला है।

नॉत्रे डैम विश्वविद्यालय के एक हालिया वर्किंग पेपर 'व्हाई एआई डिटेक्शन फेल्स फॉर एकेडमिक इंटीग्रिटी' में पाया गया कि पैंग्राम का 3.2 मॉडल अकादमिक सार (एब्स्ट्रैक्ट्स) में किए गए हल्के AI संपादन को 64 से 80 प्रतिशत मामलों में गलत तरीके से पूरी तरह AI-लिखित बता देता है। इसके विपरीत, जब AI द्वारा लिखे गए टेक्स्ट को 'ह्यूमिनाइजर' टूल से गुजारा गया, तो पैंग्राम केवल 4 प्रतिशत से भी कम मामलों में AI की पहचान कर सका।

पैंग्राम खुद भी यह स्वीकार करता है कि 100 शब्दों से कम के छोटे टेक्स्ट पर उसका टूल सही काम नहीं करता। पैंग्राम की मुफ्त सेवा में प्रतिदिन केवल 2,000 शब्दों तक की जांच की सीमा है, जबकि औसतन उपयोगकर्ता 350 शब्दों का इनपुट देते हैं। इसके अलावा एक ही वाक्य को अलग से जांचने और पूरे पैराग्राफ के संदर्भ में जांचने पर पैंग्राम का स्कोर अलग-अलग आ सकता है।

फॉल्स पॉजिटिव दर और भविष्य की दिशा

पैंग्राम का दावा है कि उसके नए मॉडल में फॉल्स पॉजिटिव यानी इंसान के लिखे को AI बताने की गलती केवल 0.0041 प्रतिशत मामलों में ही होती है, जो पहले 0.01 प्रतिशत थी। स्पैरो का कहना है कि उनका टूल जानबूझकर सतर्क रवैया अपनाता है और संदिग्ध मामलों में टेक्स्ट को इंसान द्वारा लिखित ही मानता है। इसी वजह से भारी मात्रा में AI द्वारा दोबारा लिखे गए निबंधों को भी पैंग्राम 41.37 प्रतिशत मामलों में इंसान का लिखा हुआ ही बताता है।

कंपनी के पूर्व ठेकेदार रॉड ब्रेसलो के अनुसार, पैंग्राम अब अपनी रणनीति बदल रहा है। अब कंपनी यह मानकर चल रही है कि भविष्य में AI का उपयोग अधिक स्वीकार्य होगा। इसलिए पैंग्राम अब हल्के संपादन की पहचान करने के लिए अधिक सूक्ष्म और विस्तृत जानकारी प्रदान करने वाले फीचर्स पर काम कर रहा है। आने वाले समय में पैंग्राम प्रकाशकों, स्कूलों और अन्य सभी क्षेत्रों के लिए प्रामाणिकता का मुख्य मानक बनने की महत्वाकांक्षा रखता है।