Why in News?

The National Commission for Protection of Child Rights (NCPCR) has summoned Meta India’s Managing Director and Country Head over alleged advertisements linked to Child Sexual Exploitation and Abuse Material (CSEAM) on Instagram.

What Happened?

• NCPCR took suo motu cognisance of a BBC Eye report on the alleged advertisements.

• It issued a notice to Meta Platforms Inc. seeking an explanation and relevant documents.

• After receiving Meta’s response, NCPCR initiated a formal inquiry.

• The inquiry will examine:

  • Meta India’s role in the advertisements.

  • How the advertisements passed Instagram’s content-moderation systems.

  • Reasons for the alleged failure of safeguards.

  • Compliance with child-protection laws.

Legal Framework:

• POCSO Act, 2012: Provides stringent protection to children against sexual offences and exploitation.

• Online circulation or facilitation of Child Sexual Abuse Material (CSAM) raises serious legal and child-rights concerns.

• Platforms are expected to maintain effective mechanisms to detect, prevent and report such harmful content.

Role of Other Institutions:

• National Human Rights Commission (NHRC) has also issued notices to the Ministry of Electronics and Information Technology and Ministry of Information and Broadcasting.

• The ministries have been asked to submit their responses within two weeks.

Key Concerns:

• Platform accountability: Effectiveness of content-moderation systems.

• Algorithmic risks: Automated advertising systems may fail to detect harmful content.

• Child safety: Exposure of minors to online exploitation.

• Regulatory oversight: Need for stronger monitoring of digital platforms.

• Institutional coordination: Effective cooperation among platforms, regulators and law-enforcement agencies.

Way Forward:

• Strengthen AI-based detection and human moderation for child-safety risks.

• Ensure rapid reporting and removal of illegal material.

• Conduct regular independent audits of platform safety systems.

• Improve coordination between digital platforms, government agencies and law enforcement.

• Strengthen privacy-preserving child-safety mechanisms and accountability of platforms.

Conclusion:

The NCPCR inquiry highlights the need to balance digital innovation with platform accountability and child protection. Stronger technological safeguards, regulatory oversight and institutional coordination are essential to create a safe digital environment for children.

Mains Question:

“Digital platforms must bear greater responsibility for protecting children from online exploitation.” Discuss in the context of the NCPCR inquiry into Instagram.

इंस्टाग्राम पर CSEAM विज्ञापन: NCPCR की जाँच

चर्चा में क्यों?

राष्ट्रीय बाल अधिकार संरक्षण आयोग (NCPCR) ने इंस्टाग्राम पर बाल यौन शोषण एवं दुर्व्यवहार सामग्री (Child Sexual Exploitation and Abuse Material—CSEAM) से कथित रूप से जुड़े विज्ञापनों के मामले में Meta India के प्रबंध निदेशक एवं कंट्री हेड को तलब किया है।

घटनाक्रम:

• NCPCR ने BBC Eye की रिपोर्ट पर स्वतः संज्ञान (Suo Motu Cognisance) लिया।

• Meta Platforms Inc. से स्पष्टीकरण एवं संबंधित दस्तावेज माँगे गए।

• Meta के उत्तर के बाद आयोग ने औपचारिक जाँच प्रारंभ की।

• जाँच में मुख्यतः यह देखा जाएगा:

  • विज्ञापनों में Meta India की क्या भूमिका थी।

  • विज्ञापन Instagram की सामग्री-संयम (Content Moderation) प्रणाली से कैसे पारित हुए।

  • सुरक्षा-तंत्र की विफलता के कारण क्या थे।

  • बाल संरक्षण संबंधी कानूनों का अनुपालन हुआ या नहीं।

विधिक आधार:

• बालकों का लैंगिक अपराधों से संरक्षण अधिनियम, 2012 (POCSO Act) बच्चों को लैंगिक अपराध एवं शोषण से संरक्षण प्रदान करता है।

• बाल यौन शोषण सामग्री (CSAM) का निर्माण, प्रसार अथवा उपलब्धता गंभीर विधिक एवं बाल-अधिकार संबंधी चिंता है।

• डिजिटल मंचों पर ऐसी सामग्री की पहचान, रोकथाम एवं रिपोर्टिंग हेतु प्रभावी तंत्र आवश्यक है।

अन्य संस्थाओं की भूमिका:

• राष्ट्रीय मानवाधिकार आयोग (NHRC) ने भी इलेक्ट्रॉनिकी एवं सूचना प्रौद्योगिकी मंत्रालय तथा सूचना एवं प्रसारण मंत्रालय को नोटिस जारी किया है।

• संबंधित मंत्रालयों से दो सप्ताह के भीतर जवाब माँगा गया है।

प्रमुख चिंताएँ:

• डिजिटल मंचों की जवाबदेही एवं सामग्री-संयम की प्रभावशीलता।

• एल्गोरिद्मिक प्रणालियों की सीमाएँ और निगरानी संबंधी जोखिम।

• बच्चों की ऑनलाइन सुरक्षा एवं गरिमा।

• डिजिटल मंचों पर नियामकीय निगरानी।

• प्लेटफॉर्म, सरकार और कानून-प्रवर्तन एजेंसियों के बीच समन्वय का अभाव।

आगे की राह:

• AI-आधारित पहचान तथा मानव-आधारित निगरानी को मजबूत करना।

• अवैध सामग्री की शीघ्र पहचान, हटाने एवं रिपोर्टिंग की व्यवस्था।

• डिजिटल प्लेटफॉर्म की स्वतंत्र सुरक्षा ऑडिट।

• प्लेटफॉर्म, नियामक एवं कानून-प्रवर्तन एजेंसियों के बीच बेहतर संस्थागत समन्वय।

• बच्चों की सुरक्षा के लिए गोपनीयता-सम्मत एवं उत्तरदायी डिजिटल तंत्र विकसित करना।

निष्कर्ष:

यह मामला डिजिटल प्लेटफॉर्म की जवाबदेही, बाल अधिकारों एवं ऑनलाइन सुरक्षा के बीच संतुलन की आवश्यकता को रेखांकित करता है। बच्चों को ऑनलाइन यौन शोषण से बचाने के लिए प्रभावी तकनीकी सुरक्षा, कठोर विधिक अनुपालन और मजबूत नियामकीय निगरानी आवश्यक है।