India Ultimatum Meta: Hapus Iklan Eksploitasi Anak di Instagram dalam 7 Hari
Baca dalam 60 detik
- Pemerintah India memerintahkan Meta menonaktifkan semua iklan dan konten di Instagram yang mempromosikan materi pelecehan seksual anak, menyusul investigasi BBC yang menemukan praktik tersebut.
- Meta diberi waktu tujuh hari untuk memberikan penjelasan resmi; perusahaan mengklaim memiliki kebijakan tanpa toleransi namun mengakui perjuangan melawan pelaku yang bersembunyi di antara 3,5 miliar pengguna.
- Kasus ini membuka kembali diskusi tentang efektivitas moderasi konten berbasis AI di platform global, dengan implikasi langsung bagi pengguna Indonesia yang juga rentan terhadap konten serupa.
Pemerintah India mengambil langkah tegas dengan memerintahkan Meta untuk segera menonaktifkan seluruh iklan dan konten di Instagram yang mempromosikan atau memfasilitasi materi pelecehan seksual anak. Perintah ini dikeluarkan setelah investigasi BBC Eye mengungkap bahwa platform media sosial tersebut menjalankan iklan berbayar yang menampilkan konten eksploitasi anak di India.
Dalam pemberitahuan resmi yang disampaikan kepada perusahaan teknologi raksasa itu, Kementerian Elektronika dan Teknologi Informasi India juga meminta penjelasan rinci dalam waktu tujuh hari mengenai bagaimana iklan berbayar yang mengandung materi terlarang tersebut bisa lolos dari sistem moderasi. Seorang pejabat senior kementerian menyatakan bahwa pemerintah mengeluarkan peringatan keras terkait munculnya materi eksploitasi seksual anak dalam iklan berbayar di Instagram.
Meta, melalui juru bicaranya, menegaskan kembali komitmen perusahaan terhadap kebijakan tanpa toleransi terhadap materi pelecehan seksual anak, termasuk dalam iklan. Namun, perusahaan juga mengakui tantangan besar dalam mendeteksi konten berbahaya di tengah basis pengguna global yang mencapai 3,5 miliar orang. "Kami menggunakan teknologi AI canggih untuk secara proaktif mendeteksi konten dan individu yang melanggar, tetapi kami berada dalam pertempuran terus-menerus dengan para penjahat yang bersembunyi di antara pengguna kami dan mencoba menghindari deteksi," ujar juru bicara tersebut.
Investigasi BBC mengungkapkan bahwa celah dalam sistem periklanan Instagram memungkinkan konten berbahaya menjangkau pengguna yang tidak mencarinya. BBC membuat akun alias di India yang mengikuti sepuluh profil tertentu, dan dalam waktu kurang dari seminggu, akun tersebut mulai menampilkan iklan berbayar berisi pornografi dewasa. Beberapa hari kemudian, iklan yang mempromosikan materi pelecehan seksual anak muncul, beberapa di antaranya mengarahkan pengguna ke saluran Telegram tempat materi tersebut ditawarkan untuk dijual.
Kasus ini memiliki implikasi langsung bagi Indonesia, yang merupakan salah satu pasar terbesar Meta di Asia Tenggara. Dengan jumlah pengguna Instagram yang sangat besar, Indonesia juga rentan terhadap praktik serupa. Regulator di Indonesia, seperti Kementerian Komunikasi dan Informatika, dapat mengambil pelajaran dari langkah India dalam menekan platform digital untuk lebih bertanggung jawab terhadap konten iklan. Selain itu, kasus ini menyoroti keterbatasan teknologi AI dalam memoderasi konten berbahaya, terutama ketika pelaku terus beradaptasi dengan metode baru.
Ke depan, tekanan terhadap Meta dan platform media sosial lainnya kemungkinan akan meningkat, tidak hanya dari pemerintah India tetapi juga dari negara-negara lain yang khawatir akan perlindungan anak di ruang digital. Pertanyaan yang muncul adalah: seberapa efektif sistem moderasi berbasis AI dalam jangka panjang, dan apakah perusahaan teknologi perlu mengadopsi pendekatan yang lebih manusiawi dan transparan untuk mengatasi masalah ini?
