सोशल मीडिया प्लेटफॉर्म Meta इन दिनों भारत में कंटेंट मॉडरेशन और ऑनलाइन सुरक्षा से जुड़े गंभीर सवालों का सामना कर रहा है। Facebook और Instagram पर बाल यौन शोषण सामग्री यानी CSAM, डीपफेक और कथित तौर पर धोखाधड़ी वाले विज्ञापनों की मौजूदगी को लेकर सरकार और नियामक संस्थाओं की चिंता बढ़ी है।
यह भी पढ़ेंः मेटा पर क्यों लगा जुर्माना? फेसबुक इंस्टाग्राम पर आखिर क्या छिपाया गया
इसी विवाद के बीच Meta के वरिष्ठ अधिकारियों की ओर से भारत सरकार के सामने माफी जताई गई है। Reuters के अनुसार, Meta के Chief Global Affairs Officer Joel Kaplan ने प्रधानमंत्री नरेंद्र मोदी की एक पोस्ट को अस्थायी रूप से प्रतिबंधित किए जाने के मामले में सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव से माफी मांगी। रिपोर्ट में यह भी बताया गया कि Meta CEO Mark Zuckerberg ने प्लेटफॉर्म पर CSAM, डीपफेक और अन्य operational errors से जुड़े मामलों को लेकर भारतीय अधिकारियों के सामने माफी जताई।
इस पूरे मामले ने एक बड़ा सवाल खड़ा कर दिया है। अगर किसी सोशल मीडिया प्लेटफॉर्म के सिस्टम पर अवैध या हानिकारक सामग्री को बड़े पैमाने पर प्रचारित किए जाने की संभावना सामने आती है, तो उस प्लेटफॉर्म की कानूनी जिम्मेदारी कितनी होनी चाहिए?
Meta विवाद में क्या सामने आया?
मामला सिर्फ किसी एक पोस्ट या एक विज्ञापन तक सीमित नहीं है। इसमें कंटेंट मॉडरेशन, पेड विज्ञापन, एल्गोरिदमिक वितरण, स्कैम और भारत में सोशल मीडिया कंपनियों को मिलने वाली कानूनी सुरक्षा जैसे कई मुद्दे जुड़े हैं।
यह भी पढ़ेंः मेटा के नए नियम क्या हैं? आपके लिए क्या बदला ? जान लें सारी बात
भारत में यह मामला इसलिए भी महत्वपूर्ण है क्योंकि Information Technology Act, 2000 की Section 79 के तहत योग्य intermediaries को तीसरे पक्ष की सामग्री के लिए कुछ परिस्थितियों में safe-harbour protection मिलती है। यह सुरक्षा बिना शर्त नहीं है और IT Rules के तहत निर्धारित दायित्वों का पालन करना जरूरी है। सरकार पहले
पेड प्रमोशन पर सबसे बड़ा सवाल
Meta से जुड़े हालिया विवाद में यह दावा सामने आया है कि कुछ प्रकार की सामग्री को पैसे देकर प्रमोट किया गया। इसमें कथित रूप से ऐसी सामग्री भी शामिल थी जिसे प्लेटफॉर्म की नीतियों के तहत प्रतिबंधित या हानिकारक माना जाता है।
यह सवाल इसलिए महत्वपूर्ण है क्योंकि सामान्य user-generated content और paid advertising में एक बुनियादी अंतर है। विज्ञापन व्यवस्था में प्लेटफॉर्म स्वयं वितरण, targeting और monetisation की प्रक्रिया में सक्रिय भूमिका निभाता है।
यही वजह है कि पेड विज्ञापनों के जरिए स्कैम या प्रतिबंधित सामग्री पहुंचने की स्थिति में प्लेटफॉर्म की जिम्मेदारी पर बहस और गंभीर हो जाती है।
Meta के स्कैम विज्ञापनों से जुड़े दस्तावेजों में क्या मिला?
Reuters की रिपोर्टिंग के आधार पर Meta के आंतरिक दस्तावेजों में स्कैम विज्ञापनों का बहुत बड़ा पैमाना सामने आया था। दिसंबर 2024 के एक दस्तावेज के अनुसार, Meta के प्लेटफॉर्म पर प्रतिदिन अनुमानित 15 अरब “higher risk” scam advertisements दिखाए जा रहे थे। एक अन्य दस्तावेज में इस श्रेणी के स्कैम विज्ञापनों से लगभग 7 अरब डॉलर के annualised revenue का अनुमान लगाया गया था।
यहां एक महत्वपूर्ण तथ्य स्पष्ट करना जरूरी है। 7 अरब डॉलर और Meta की कुल आय का लगभग 10 प्रतिशत एक ही आंकड़ा नहीं है। Reuters की रिपोर्ट के मुताबिक लगभग 10 प्रतिशत, करीब 16 अरब डॉलर, का एक व्यापक आंतरिक अनुमान scams और banned goods से जुड़े विज्ञापनों के लिए था। वहीं लगभग 7 अरब डॉलर का अनुमान उस श्रेणी के अधिक स्पष्ट रूप से high-risk scam ads से जुड़ा था। Meta ने 10.1 प्रतिशत वाले अनुमान को rough और overly-inclusive बताया था।
95 प्रतिशत वाली नीति ने क्यों बढ़ाई चिंता?
Reuters की रिपोर्ट में सामने आए दस्तावेजों के मुताबिक Meta के automated systems कथित तौर पर किसी advertiser को तब प्रतिबंधित करते थे जब सिस्टम को उसके fraud में शामिल होने की कम से कम 95 प्रतिशत संभावना होती थी।
इससे एक बड़ी enforcement gap पैदा हो सकती थी। अगर सिस्टम को किसी advertiser पर संदेह था लेकिन वह 95 प्रतिशत की सीमा तक नहीं पहुंचता था, तो कार्रवाई का तरीका अलग हो सकता था। दस्तावेजों के अनुसार कुछ मामलों में ऐसे advertisers से विज्ञापन के लिए अधिक दर ली जाती थी, बजाय तत्काल प्रतिबंध लगाने के।
Cyber security के नजरिए से यह व्यवस्था महत्वपूर्ण है क्योंकि scam ecosystem में अपराधी अक्सर एक ही विज्ञापन, अकाउंट या पहचान का लंबे समय तक इस्तेमाल नहीं करते। वे नए accounts, नए domains और नए payment channels के जरिए सिस्टम से बचने की कोशिश करते हैं।
ऐसे में detection threshold और enforcement speed सीधे तौर पर users की सुरक्षा से जुड़ जाते हैं।
CSAM और Deepfake Content ने बढ़ाई चिंता
भारत में विवाद का एक गंभीर हिस्सा Child Sexual Abuse Material यानी CSAM से जुड़ा है। Meta के प्लेटफॉर्म पर कथित तौर पर ऐसी सामग्री से जुड़े paid advertisements की मौजूदगी को लेकर National Commission for Protection of Child Rights यानी NCPCR ने जांच शुरू की है।
इसके साथ deepfake content को लेकर भी सवाल उठे हैं। AI आधारित tools के तेजी से इस्तेमाल के कारण किसी व्यक्ति के चेहरे, आवाज या वीडियो को बदलकर भ्रामक अथवा आपत्तिजनक सामग्री तैयार करना आसान हुआ है।
भारत के IT Rules में prohibited misinformation, patently false information और deepfakes से जुड़े दायित्वों को लेकर intermediaries के लिए compliance requirements मौजूद हैं। सरकार ने पहले भी कहा है कि इन कानूनी दायित्वों का पालन नहीं करने पर Section 79 के safe-harbour protection पर असर पड़ सकता है।
Meta के Safe Harbour पर क्यों उठे सवाल?
Safe Harbour को समझना इस पूरे मामले के लिए जरूरी है।
Information Technology Act की Section 79 योग्य intermediaries को कुछ परिस्थितियों में users की ओर से उपलब्ध कराई गई third-party information के लिए कानूनी सुरक्षा देती है। लेकिन यह सुरक्षा इस शर्त से जुड़ी है कि intermediary कानून और निर्धारित due-diligence obligations का पालन करे।
इसी वजह से Meta के खिलाफ उठी मांगों को सीधे यह कहना सही नहीं होगा कि कंपनी ने अपना safe harbour पहले ही खो दिया है। फिलहाल विवाद इस बात पर है कि क्या प्लेटफॉर्म की गतिविधियां और compliance failures ऐसी स्थिति पैदा कर सकते हैं जिसमें Section 79 की सुरक्षा प्रभावित हो।
संसदीय स्थायी समिति के अध्यक्ष निशिकांत दुबे ने प्रधानमंत्री नरेंद्र मोदी की Facebook पोस्ट को अस्थायी रूप से हटाए जाने के मामले में Zuckerberg से व्यक्तिगत और बिना शर्त माफी की मांग की थी। समिति ने चेतावनी दी थी कि ऐसा नहीं होने पर Meta के safe-harbour protection पर कार्रवाई की मांग की जा सकती है।
क्या Meta को Intermediary नहीं माना जाएगा?
यह दावा फिलहाल सीधे अंतिम कानूनी निष्कर्ष के रूप में नहीं लिखा जाना चाहिए कि Meta “intermediary नहीं है”।
Section 79 का पूरा ढांचा इस बात पर निर्भर करता है कि संबंधित platform intermediary की परिभाषा और उससे जुड़ी शर्तों के भीतर किस तरह काम करता है। खासकर platform की भूमिका, content handling, due diligence और कानून के तहत मिलने वाली सुरक्षा अलग-अलग प्रश्न हैं।
इसलिए मौजूदा स्थिति में ज्यादा सटीक बात यह है कि Meta की गतिविधियों और content moderation practices को लेकर safe harbour की शर्तों पर सवाल उठाए गए हैं।
यह अंतर Cyber category के लिए महत्वपूर्ण है क्योंकि किसी संभावित कानूनी कार्रवाई और पहले से तय कानूनी निष्कर्ष में फर्क होता है।
प्रधानमंत्री नरेंद्र मोदी की पोस्ट का मामला
Meta विवाद का दूसरा महत्वपूर्ण हिस्सा प्रधानमंत्री नरेंद्र मोदी की एक Facebook पोस्ट को अस्थायी रूप से प्रतिबंधित किए जाने से जुड़ा है।
Meta की ओर से इसे operational error बताया गया। Reuters के अनुसार Joel Kaplan ने इस मामले में भारत के सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव से माफी मांगी। घटना के बाद Meta के अधिकारियों को भारतीय अधिकारियों के सामने स्पष्टीकरण देना पड़ा।
यह मामला इसलिए महत्वपूर्ण है क्योंकि एक तरफ platform पर हानिकारक और अवैध सामग्री को लेकर moderation failure के आरोप हैं, जबकि दूसरी तरफ वैध राजनीतिक सामग्री के गलत तरीके से restrict होने का मामला सामने आया।
दोनों घटनाएं एक ही मूल सवाल पर पहुंचती हैं: कंटेंट मॉडरेशन सिस्टम किस आधार पर तय करता है कि क्या हटाया जाए, क्या रोका जाए और क्या लोगों तक पहुंचाया जाए?
एल्गोरिदम और Cyber Security का संबंध
सोशल मीडिया पर साइबर जोखिम सिर्फ किसी hacker या malware से पैदा नहीं होते।
अगर कोई platform किसी user के व्यवहार के आधार पर उसे उसी तरह के विज्ञापन या सामग्री लगातार दिखाता है, तो scam content का असर कई गुना बढ़ सकता है। Reuters द्वारा देखे गए Meta के दस्तावेजों में भी यह उल्लेख था कि scam advertisement पर क्लिक करने वाले users को personalization system के कारण और समान विज्ञापन दिखाई दे सकते थे।
इसका मतलब यह है कि एक गलत विज्ञापन सिर्फ एक बार दिखाई देने वाली समस्या नहीं हो सकता। वह recommendation और advertising systems के जरिए दोबारा user तक पहुंच सकता है।
Cyber criminals के लिए यही mechanism बहुत उपयोगी हो सकता है। पहले user को आकर्षित किया जाता है, फिर उसे fake investment, shopping fraud, account takeover, phishing या किसी अन्य scam के लिए redirect किया जा सकता है।
भारत में इस मामले की जांच क्यों अहम है?
भारत में सोशल मीडिया का इस्तेमाल बहुत बड़े स्तर पर होता है। इसलिए Meta जैसे platform पर moderation failure का प्रभाव भी व्यापक हो सकता है।
NCPCR द्वारा CSAM से जुड़े विज्ञापनों पर जांच शुरू किया जाना इस मामले को सिर्फ corporate policy dispute से आगे ले जाता है। दूसरी तरफ संसदीय समिति द्वारा safe harbour को लेकर चेतावनी यह बताती है कि सरकार platform accountability के कानूनी पहलू को भी गंभीरता से देख रही है।
इस जांच में आगे कई सवाल महत्वपूर्ण होंगे:
- कथित paid promotions में किस तरह की सामग्री शामिल थी?
- विज्ञापन किस प्रक्रिया से approval के बाद users तक पहुंचे?
- Meta के automated systems ने उन्हें क्यों नहीं रोका?
- कितनी सामग्री भारत के users तक पहुंची?
- शिकायत मिलने के बाद कितनी जल्दी कार्रवाई हुई?
- क्या platform ने भारतीय कानून के तहत अपनी due-diligence obligations पूरी कीं?
- क्या इन मामलों का Section 79 के safe harbour पर कोई कानूनी प्रभाव पड़ता है?
Users के लिए इसका क्या मतलब है?
Meta विवाद से आम users के लिए भी कुछ महत्वपूर्ण Cyber Security lessons निकलते हैं।
सोशल मीडिया पर दिखाई देने वाला paid advertisement अपने आप में भरोसे का प्रमाण नहीं है। किसी advertisement के platform पर दिखाई देने का अर्थ यह नहीं है कि advertised company, investment scheme, website या offer की स्वतंत्र रूप से गारंटी दी गई है।
खासकर इन मामलों में अतिरिक्त सतर्कता जरूरी है:
Investment और Trading Ads
“Guaranteed return”, “double money”, “exclusive trading opportunity” या celebrity endorsement जैसे दावों वाले विज्ञापनों को बिना सत्यापन के follow नहीं करना चाहिए।
Shopping Deals
बहुत कम कीमत, limited-time offer और advance payment जैसी शर्तों वाले unknown websites से खरीदारी करने से पहले seller और website की विश्वसनीयता जांचना जरूरी है।
Deepfake Videos
किसी नेता, अभिनेता, अधिकारी या celebrity का वीडियो देखकर तुरंत भरोसा नहीं करना चाहिए। आवाज और चेहरा दोनों AI से बदले जा सकते हैं।
Login और Payment Links
Facebook, Instagram या किसी अन्य platform पर दिखाई देने वाले advertisement से किसी banking, investment या payment website पर जाने से पहले domain name जांचना चाहिए।
Meta विवाद से सबसे बड़ा Cyber Security सबक
इस पूरे मामले का सबसे महत्वपूर्ण पहलू सिर्फ यह नहीं है कि किसी platform ने कितना revenue कमाया या कितने advertisements दिखाए।
असल सवाल यह है कि जिस platform के पास content को users तक पहुंचाने, विज्ञापन को target करने और उसकी distribution को algorithm से प्रभावित करने की क्षमता है, उसकी जिम्मेदारी कितनी होनी चाहिए?
Scam advertising में platform की भूमिका जितनी सक्रिय होगी, accountability को लेकर सवाल भी उतने ही गंभीर होंगे।
भारत में Section 79 का safe harbour इसी व्यापक ढांचे का एक महत्वपूर्ण हिस्सा है। यह platforms को हर user-generated content के लिए स्वतः जिम्मेदार नहीं बनाता, लेकिन कानूनी शर्तों और due diligence का पालन भी जरूरी करता है।
आगे क्या हो सकता है?
Meta के मामले में आगे की दिशा जांच, सरकारी कार्रवाई और कानूनी व्याख्या पर निर्भर करेगी।
NCPCR की CSAM संबंधी जांच, संसदीय समिति की टिप्पणियां और सरकार की ओर से platform accountability पर बढ़ता दबाव इस विवाद को महत्वपूर्ण बना रहे हैं। दूसरी तरफ Meta ने harmful content और detection systems को लेकर अपनी zero-tolerance policy दोहराई है और moderation व्यवस्था को बेहतर करने की बात कही है।
सबसे महत्वपूर्ण सवाल अब यह होगा कि क्या सिर्फ माफी और moderation systems में सुधार के दावे पर्याप्त होंगे, या भारत में social media platforms के लिए accountability का मानक और सख्त किया जाएगा।
निष्कर्ष
Meta से जुड़े हालिया विवाद ने भारत में social media content moderation और cyber security को लेकर कई गंभीर सवाल सामने रखे हैं। CSAM और deepfake content से लेकर scam advertisements और paid promotion तक, मामला platform की तकनीकी व्यवस्था से आगे बढ़कर कानूनी जवाबदेही तक पहुंच गया है।
Reuters द्वारा सामने आए Meta के आंतरिक दस्तावेजों में scam advertisements का जिस स्तर का अनुमान सामने आया, वह online fraud के आर्थिक मॉडल को समझने के लिए भी महत्वपूर्ण है। वहीं भारत में Section 79 के safe harbour को लेकर उठी चेतावनी यह संकेत देती है कि platforms से compliance और accountability की अपेक्षाएं बढ़ रही हैं।
आम users के लिए इसका सीधा संदेश है: सोशल मीडिया पर दिखने वाला हर विज्ञापन भरोसेमंद नहीं होता। Paid promotion, verified-looking profile या किसी बड़े platform पर दिखाई देना किसी offer की वैधता की गारंटी नहीं है। Cyber fraud से बचने के लिए link, domain, payment request और source की स्वतंत्र जांच जरूरी है।
