Malaysia Desak TikTok Bertanggung Jawab Gagal Blokir Akun Palsu Berbasis AI Hina Raja
Baca dalam 60 detik
- Pemerintah Malaysia melalui MCMC meminta TikTok menjelaskan kegagalan moderasi konten yang memungkinkan akun palsu berbasis AI menyebarkan hinaan terhadap Yang di-Pertuan Agong.
- Unggahan tersebut dinilai melanggar Pasal 233 Undang-Undang Komunikasi dan Multimedia 1998 serta undang-undang lain, dengan konten fitnah dan manipulasi gambar yang merendahkan martabat raja.
- Langkah ini menekankan urgensi penguatan sistem moderasi konten otomatis di platform digital, khususnya dalam menangani konten berbasis kecerdasan buatan yang berpotensi memicu ketegangan sosial.
Komisi Komunikasi dan Multimedia Malaysia (MCMC) secara resmi meminta TikTok untuk memberikan penjelasan terkait kegagalan platform tersebut dalam memblokir akun palsu yang menggunakan kecerdasan buatan (AI) untuk menyebarkan konten penghinaan terhadap Yang di-Pertuan Agong. Permintaan ini muncul setelah ditemukan sejumlah unggahan yang dinilai sangat ofensif dan melanggar hukum yang berlaku di Malaysia.
Dalam laporan yang diterima MCMC, akun palsu tersebut memproduksi konten fitnah, termasuk klaim palsu bahwa raja mengonsumsi daging babi, serta gambar hasil manipulasi yang menempatkan wajah raja pada tubuh hewan. Konten semacam ini tidak hanya melanggar norma kesopanan, tetapi juga berpotensi memicu keresahan di tengah masyarakat. MCMC menegaskan bahwa unggahan tersebut dapat melanggar Pasal 233 Undang-Undang Komunikasi dan Multimedia 1998, yang mengatur penyalahgunaan jaringan dan layanan komunikasi, serta undang-undang lainnya yang relevan.
Langkah MCMC ini menyoroti tantangan besar yang dihadapi platform media sosial dalam memoderasi konten yang dihasilkan oleh AI. Teknologi deepfake dan pembuatan konten otomatis semakin canggih, sehingga sulit dideteksi oleh sistem moderasi konvensional. TikTok, sebagai salah satu platform dengan basis pengguna terbesar di Malaysia, dituntut untuk tidak hanya menghapus konten tersebut, tetapi juga mencegah terulangnya insiden serupa di masa depan. Permintaan MCMC juga mencakup keharusan TikTok untuk memberikan penjelasan formal mengenai kegagalan moderasi yang terjadi, serta mengambil langkah perbaikan segera.
Kasus ini menjadi pengingat bagi seluruh platform digital untuk meningkatkan investasi dalam teknologi deteksi konten berbahaya, khususnya yang menggunakan AI. Di sisi lain, pemerintah Malaysia juga diharapkan dapat memperkuat kerangka regulasi untuk mengatasi penyalahgunaan AI dalam penyebaran informasi palsu dan ujaran kebencian. Ke depan, kolaborasi antara regulator, platform, dan masyarakat sipil menjadi kunci untuk menciptakan ekosistem digital yang lebih aman dan bertanggung jawab.
