मेटा पर CSAM और डीपफेक कंटेंट को लेकर गंभीर सवाल, मार्क जकरबर्ग ने संचालन संबंधी कमियों पर जताया खेद

मेटा (Meta) एक बार फिर अपने सोशल मीडिया प्लेटफॉर्म पर आपत्तिजनक सामग्री और कंटेंट मॉडरेशन को लेकर विवादों में है। कंपनी के प्रमुख मार्क जकरबर्ग ने कथित तौर पर CSAM (Child Sexual Abuse Material), डीपफेक कंटेंट और प्लेटफॉर्म संचालन से जुड़ी कमियों पर खेद व्यक्त किया है। इस घटनाक्रम ने सोशल मीडिया कंपनियों की जवाबदेही, डिजिटल सुरक्षा और कंटेंट मॉडरेशन को लेकर नई बहस छेड़ दी है।

मामले में यह आरोप सामने आया कि सोशल मीडिया प्लेटफॉर्म पर आपत्तिजनक सामग्री के प्रसार को रोकने में पर्याप्त प्रभावी कदम नहीं उठाए गए। विशेष रूप से CSAM जैसी गंभीर श्रेणी की सामग्री और एआई आधारित डीपफेक कंटेंट को लेकर कंपनी की नीतियों और निगरानी प्रणाली पर सवाल उठाए गए। इन आरोपों के बाद कंपनी की भूमिका और जिम्मेदारी पर व्यापक चर्चा शुरू हुई।

बताया गया कि मार्क जकरबर्ग ने प्लेटफॉर्म के संचालन में हुई कमियों और कंटेंट मॉडरेशन से जुड़ी चुनौतियों को स्वीकार करते हुए खेद व्यक्त किया। उन्होंने कहा कि उपयोगकर्ताओं की सुरक्षा सर्वोच्च प्राथमिकता होनी चाहिए और कंपनी अपनी नीतियों तथा तकनीकी प्रणालियों को लगातार मजबूत करने की दिशा में काम कर रही है।

मामले के दौरान यह भी कहा गया कि मेटा को इंटरमीडियरी (Intermediary) की परिभाषा के तहत मिलने वाली कानूनी सुरक्षा पर सवाल उठे। यह तर्क दिया गया कि यदि कोई प्लेटफॉर्म केवल सामग्री की मेजबानी (Hosting) नहीं करता, बल्कि एल्गोरिदम के माध्यम से यह तय करता है कि कौन-सा कंटेंट किस उपयोगकर्ता तक पहुंचेगा, तो उसकी भूमिका एक निष्क्रिय मध्यस्थ से अधिक हो सकती है।

इसी संदर्भ में सूचना प्रौद्योगिकी अधिनियम (IT Act) के तहत मिलने वाले सेफ हार्बर (Safe Harbour) संरक्षण पर भी चर्चा हुई। यह दलील सामने आई कि यदि किसी प्लेटफॉर्म की भूमिका केवल तकनीकी माध्यम उपलब्ध कराने तक सीमित नहीं रहती, तो उसके कानूनी दायित्व अलग हो सकते हैं। हालांकि, इस संबंध में अंतिम कानूनी स्थिति संबंधित अदालतों और सक्षम प्राधिकरणों के निर्णय पर निर्भर करती है।

विशेषज्ञों का कहना है कि CSAM दुनिया भर में सबसे गंभीर साइबर अपराधों में गिना जाता है। ऐसे कंटेंट का निर्माण, प्रसार या संरक्षण अधिकांश देशों में गंभीर अपराध है। इसी प्रकार डीपफेक तकनीक का दुरुपयोग कर गलत जानकारी फैलाना, किसी व्यक्ति की छवि खराब करना या फर्जी वीडियो तैयार करना भी तेजी से बढ़ती चुनौती बन चुका है।

डिजिटल सुरक्षा विशेषज्ञों का मानना है कि सोशल मीडिया कंपनियों को अत्याधुनिक कृत्रिम बुद्धिमत्ता आधारित पहचान प्रणाली, मजबूत मॉडरेशन तंत्र, तेज शिकायत निवारण व्यवस्था और कानून प्रवर्तन एजेंसियों के साथ प्रभावी समन्वय विकसित करना चाहिए। इससे आपत्तिजनक सामग्री को तेजी से हटाने और उसके प्रसार को रोकने में मदद मिल सकती है।

इस पूरे घटनाक्रम ने एक बार फिर यह बहस तेज कर दी है कि सोशल मीडिया कंपनियों की जिम्मेदारी केवल मंच उपलब्ध कराने तक सीमित होनी चाहिए या उन्हें प्लेटफॉर्म पर प्रसारित होने वाली सामग्री के लिए अधिक जवाबदेह बनाया जाना चाहिए। कई देशों में इस विषय पर नए नियम और कानून बनाने पर भी विचार किया जा रहा है।

मेटा की ओर से कहा गया है कि कंपनी उपयोगकर्ताओं की सुरक्षा बढ़ाने, आपत्तिजनक सामग्री की पहचान करने और उसे हटाने के लिए लगातार नई तकनीकों और नीतियों पर काम कर रही है। कंपनी का दावा है कि बाल सुरक्षा, डीपफेक पहचान और गलत सूचना पर रोक लगाने के लिए कई नए सुरक्षा उपाय लागू किए जा चुके हैं और आगे भी सुधार जारी रहेंगे।

फिलहाल यह मामला डिजिटल प्लेटफॉर्म की जवाबदेही, उपयोगकर्ताओं की सुरक्षा और ऑनलाइन कंटेंट के नियमन को लेकर वैश्विक चर्चा का विषय बना हुआ है। आगे की कानूनी प्रक्रिया और संबंधित प्राधिकरणों के निष्कर्ष यह तय करेंगे कि इस मामले में किस स्तर पर क्या जिम्मेदारियां और कानूनी परिणाम सामने आते हैं।