फेसबुक और इंस्टाग्राम पर बाल शोषण वाले विज्ञापनों पर नकेल कसने के लिए मेटा लाया नया एआई सिस्टम

मेटा ने बाल शोषण सामग्री के खिलाफ कार्रवाई करते हुए नए एआई टूल्स पेश किए हैं, जो सामान्य दिखने वाले उन विज्ञापनों को पकड़ेंगे जो यूजर्स को गैरकानूनी वेबसाइटों पर ले जाते हैं।

सोशल मीडिया दिग्गज मेटा ने फेसबुक और इंस्टाग्राम पर बाल शोषण से जुड़ी सामग्रियों पर लगाम लगाने के लिए अपनी निगरानी व्यवस्था को और सख्त बना दिया है। साल 2026 की पहली छमाही के दौरान कंपनी ने दोनों प्लेटफॉर्म्स पर बाल यौन शोषण से जुड़े 33.2 मिलियन कंटेंट पर सख्त कार्रवाई की है। इस बड़ी कार्रवाई के साथ ही कंपनी ने आर्टिफिशियल इंटेलिजेंस आधारित अत्याधुनिक सुरक्षा तंत्र भी लागू किए हैं, ताकि उन संदिग्ध विज्ञापनों और प्रोफाइल्स की पहचान की जा सके जो चुपके से यूजर्स को इंटरनेट की खतरनाक और अवैध दुनिया तक पहुंचाने का जरिया बनते हैं।

स्वचालित तकनीक से पकड़ में आया 97 फीसदी से अधिक आपत्तिजनक कंटेंट
मेटा की आंतरिक सुरक्षा प्रणालियों ने इस तरह की सामग्रियों को रोकने में काफी तेज गति दिखाई है। जुटाए गए आधिकारिक आंकड़ों के अनुसार, प्लेटफॉर्म पर जिन 33.2 मिलियन सामग्रियों के खिलाफ कदम उठाए गए, उनमें से 97 प्रतिशत से अधिक कंटेंट को यूजर्स द्वारा रिपोर्ट किए जाने से पहले ही स्वचालित सुरक्षा प्रणालियों ने खुद ढूंढ निकाला था। भारतीय बाजार के लिहाज से भी यह तकनीक काफी प्रभावी साबित हुई है। साल 2026 के शुरुआती छह महीनों में भारत के भीतर बाल यौन शोषण से जुड़े 5.3 मिलियन कंटेंट पर कार्रवाई की गई। खास बात यह रही कि भारत में हटाए गए ऐसे कंटेंट में से 98 प्रतिशत से ज्यादा मामले किसी यूजर की शिकायत आने से पहले ही सिस्टम द्वारा पकड़ लिए गए थे।

गुप्त रास्तों से गैरकानूनी साइटों पर भेजने वाले विज्ञापनों की पहचान
साइबर अपराधी अक्सर सुरक्षा तंत्र से बचने के लिए सीधे आपत्तिजनक सामग्री डालने के बजाय मासूम दिखने वाले विज्ञापनों का सहारा लेते हैं। मेटा का नया एआई सिस्टम खासतौर पर इसी तरह की गतिविधियों को रोकने के लिए डिजाइन किया गया है। कंपनी ने एक विशेष लार्ज लैंग्वेज मॉडल तकनीक तैनात की है, जो साइनपोस्टिंग की कार्यप्रणाली को ट्रैक करती है। साइनपोस्टिंग दरअसल वह प्रक्रिया है जिसमें विज्ञापन ऊपर से पूरी तरह सामान्य और सुरक्षित दिखते हैं, लेकिन वे यूजर्स को प्लेटफॉर्म से बाहर किसी अन्य वेब पते पर अवैध व नुकसानदेह सामग्री तक ले जाने का काम करते हैं। भले ही खुद उस विज्ञापन में कोई अवैध तस्वीर या वीडियो न हो, लेकिन वह बाल यौन शोषण सामग्री होस्ट करने वाली बाहरी वेबसाइटों के लिए एक प्रवेश द्वार की तरह काम करता है।

गंतव्य वेबसाइटों की जांच और सिस्टम की आत्म-परीक्षा
इस नई चुनौती से निपटने के लिए मेटा ने निगरानी का दायरा विज्ञापनों की सामग्री से आगे बढ़ा दिया है। अब जांच केवल इस बात तक सीमित नहीं है कि विज्ञापन के भीतर क्या लिखा या दिखाया गया है, बल्कि एआई यह भी गहनता से स्कैन करता है कि वह लिंक यूजर को किस अंतिम वेबसाइट पर ले जा रहा है। यदि लिंक किया गया वेब पता नियमों का उल्लंघन करता पाया जाता है, तो मेटा उस गंतव्य को पूरी तरह ब्लॉक कर देता है और उस विज्ञापन को चलाने वाले खातों पर भी तुरंत प्रतिबंध लगा देता है। इसके अलावा पुराने सुरक्षा फिल्टर से बच निकलने वाले कंटेंट को पकड़ने के लिए अतिरिक्त एआई स्कैन चलाए जा रहे हैं, जिन्हें नेटवर्क की नई चालों के हिसाब से लगातार अपडेट किया जा रहा है।

अपनी सुरक्षा व्यवस्था में मौजूद किसी भी संभावित खामी को पकड़ने के लिए मेटा ने एक रेड-टीमिंग एआई एजेंट भी तैयार किया है। यह एआई एजेंट कंपनी के सुरक्षा घेरे पर नकली हमले और चालाकियां आजमाकर यह परखता है कि शातिर लोग किस तरह नियमों को तोड़ सकते हैं। इससे कंपनी को नए प्रकार के दुरुपयोग के फैलने से पहले ही सुरक्षा कवच तैयार करने में मदद मिलती है। इसके साथ ही, जिन लोगों के खाते पहले नियम उल्लंघन के चलते हटाए जा चुके हैं, उनके नए प्रोफाइल बनाकर दोबारा लौटने की कोशिशों को विफल करने के लिए भी तकनीक को मजबूत किया गया है।

कानूनी दबाव और बच्चों की सुरक्षा के लिए उठाए गए अन्य कदम
मेटा द्वारा ये तकनीकी बदलाव ऐसे समय में किए गए हैं जब दुनिया भर के कानून निर्माता और अदालतें बच्चों की ऑनलाइन सुरक्षा को लेकर टेक कंपनियों पर लगातार दबाव बना रही हैं। कंपनी को कम उम्र के यूजर्स पर सोशल मीडिया के नकारात्मक प्रभावों को लेकर कई कानूनी मुकदमों और आलोचनाओं का सामना करना पड़ा है। इसी साल अगस्त में, मेटा ने अमेरिका के 29 राज्यों द्वारा बच्चों की सुरक्षा को लेकर दायर एक बड़े मुकदमे को निपटाने के लिए 18 बिलियन डॉलर तक का भुगतान करने पर सहमति जताई थी।

साल 2026 के दौरान बाल सुरक्षा को प्राथमिकता देते हुए कई अन्य उपयोगी फीचर्स भी प्लेटफॉर्म्स पर जोड़े गए हैं। इनमें मेटा एआई के लिए अभिभावक नियंत्रण व्यवस्था, व्हाट्सएप पर प्री-टीन के लिए माता-पिता से जुड़े खाते और इंस्टाग्राम पर बच्चों द्वारा खुद को नुकसान पहुंचाने से जुड़ी खोज करने पर माता-पिता को तुरंत अलर्ट भेजने की सुविधा शामिल है। वहीं सितंबर महीने में व्हाट्सएप ने अभिभावकों के लिए और नियंत्रण जोड़े, जिनके जरिए वे अपने किशोर बच्चों द्वारा चैनल्स के इस्तेमाल को सीमित कर सकते हैं, स्टेटस अपडेट की दृश्यता तय कर सकते हैं, यह नियंत्रित कर सकते हैं कि उन्हें ग्रुप्स में कौन जोड़ सकता है और ग्रुप की चुनिंदा गतिविधियों की सूचनाएं भी प्राप्त कर सकते हैं।

इसका आप पर असर
मेटा के इस कदम से सोशल मीडिया पर बच्चों की सुरक्षा और परिवारों की डिजिटल प्राइवेसी में सीधे बदलाव आएंगे।

• अभिभावकों के लिए: माता-पिता को अब अपने बच्चों की ऑनलाइन गतिविधियों पर बेहतर नियंत्रण और समय पर चेतावनी मिल सकेगी। वे व्हाट्सएप और इंस्टाग्राम पर सुरक्षा सेटिंग्स चालू करके बच्चों को संदिग्ध बाहरी लिंक से दूर रख सकते हैं।
• भारत में: देश में करोड़ों युवा यूजर्स को विज्ञापनों के जरिए होने वाले साइबर शोषण और गलत वेबसाइटों से बेहतर सुरक्षा मिलेगी। भारतीय कानून और सुरक्षा मानकों के तहत लाखों संदिग्ध पोस्ट्स को यूजर की नजर में आने से पहले ही हटाया जा सकेगा।
• सोशल मीडिया यूजर्स के लिए: फेसबुक और इंस्टाग्राम की फीड में दिखने वाले संदिग्ध विज्ञापनों और लिंक पर अब सख्त पाबंदी होगी। इससे अनजाने में किसी फर्जी या गैरकानूनी वेब पेज पर पहुंच जाने का खतरा काफी घट जाएगा।
• विज्ञापनदाताओं के लिए: प्लेटफॉर्म पर विज्ञापन चलाने के नियम और गंतव्य लिंक की जांच प्रक्रिया पहले से कहीं अधिक कड़ी हो जाएगी। नियमों का उल्लंघन करने वाले या अस्पष्ट बाहरी रीडायरेक्ट देने वाले अकाउंट्स बिना देरी के सीधे ब्लॉक कर दिए जाएंगे।

ऐसा क्यों हुआ
यह तकनीकी बदलाव बढ़ते साइबर अपराध और सोशल मीडिया कंपनियों पर बढ़ते कानूनी शिकंजे के कारण हुआ है।

• सीधा कारण: साइबर अपराधी सीधे नियम तोड़ने के बजाय सामान्य दिखने वाले विज्ञापनों से यूजर्स को अवैध बाहरी साइटों पर भेज रहे थे। इस नई तकनीक यानी साइनपोस्टिंग को रोकने के लिए मेटा को विशेष एआई और गंतव्य जांच शुरू करनी पड़ी।
• कानूनी और विनियामक दबाव: अमेरिकी राज्यों और वैश्विक नियामकों द्वारा बच्चों की सुरक्षा पर लापरवाही को लेकर कंपनियों पर लगातार मुकदमे चलाए जा रहे हैं। अगस्त में 29 अमेरिकी राज्यों के साथ हुए 18 बिलियन डॉलर के मुकदमे के समझौते ने सुरक्षा मानकों को सख्त करने की गति को और तेज कर दिया।
• सुरक्षा तंत्र की कमियां: पिछले सिस्टम केवल विज्ञापन के अंदर दिखने वाले शब्दों और तस्वीरों को परखते थे, जिससे शातिर लोग बच निकलते थे। रेड-टीमिंग एआई और एडवांस स्कैनिंग को इसलिए लागू किया गया ताकि सिस्टम में मौजूद खामियों को समय रहते दूर किया जा सके।

सवाल-जवाब

1. मेटा ने 2026 की पहली छमाही में कितनी बाल शोषण सामग्रियों पर कार्रवाई की?
कंपनी ने फेसबुक और इंस्टाग्राम पर बाल यौन शोषण से जुड़ी 33.2 मिलियन सामग्रियों के खिलाफ सख्त कदम उठाए।

2. भारत में इस दौरान कितनी ऐसी सामग्रियों को हटाया गया?
भारत में 5.3 मिलियन बाल यौन शोषण सामग्रियों पर कार्रवाई की गई, जिसमें से 98 प्रतिशत से ज्यादा को यूजर्स द्वारा रिपोर्ट करने से पहले ही सिस्टम ने पकड़ लिया था।

3. विज्ञापनों में साइनपोस्टिंग का क्या मतलब है?
यह एक ऐसी तकनीक है जिसमें विज्ञापन देखने में सामान्य लगता है, लेकिन वह यूजर्स को प्लेटफॉर्म के बाहर गैरकानूनी सामग्री वाली वेबसाइटों पर ले जाता है।

4. रेड-टीमिंग एआई एजेंट मेटा के सिस्टम में क्या काम करता है?
यह एजेंट कंपनी की सुरक्षा प्रणालियों की कमियों और खामियों की खुद जांच करता है ताकि साइबर अपराधियों के पैंतरे पहले ही पकड़े जा सकें।

5. बच्चों की सुरक्षा से जुड़े मुकदमे में मेटा ने कितने हर्जाने पर सहमति जताई थी?
मेटा ने 29 अमेरिकी राज्यों द्वारा दायर बाल सुरक्षा मुकदमे को सुलझाने के लिए 18 बिलियन डॉलर तक का भुगतान करने पर सहमति व्यक्त की थी।

6. व्हाट्सएप पर अभिभावकों के लिए हाल ही में कौन से नए नियंत्रण जोड़े गए हैं?
माता-पिता अब किशोरों के चैनल्स इस्तेमाल, स्टेटस देखने की अनुमति और ग्रुप्स में जोड़े जाने की सेटिंग्स को सीमित कर सकते हैं।

https://trendkia.com/apps/meta-rolls-out-new-ai-tools-to-detect-ads-that-secretly-lead-to-child-sexual-abuse-material-46066
TrendKia — Har trend, sabse pehle.