Ratusan Aplikasi AI "Baik-baik Saja" Diam-diam Sediakan Alat Deepfake Seksual, Jaringan Terdeteksi

Sebuah investigasi yang dipublikasikan Wired mengungkap bahwa ratusan aplikasi di Google Play Store dan Apple App Store—mulai dari pembuat potret hewan peliharaan hingga aplikasi kebugaran—ternyata menyembunyikan antarmuka rahasia yang memungkinkan pengguna membuat deepfake seksual. Jaringan yang terdiri dari lebih dari 400 aplikasi dan domain terhubung ini ditemukan oleh peneliti dari AI Forensics, dan praktiknya telah berlangsung tanpa terdeteksi oleh sistem moderasi toko aplikasi.

Modus operandinya cukup canggih: saat pertama kali diinstal, aplikasi mengirim sinyal ke server jarak jauh yang berisi informasi seperti lokasi pengguna, bahasa, identitas perangkat, dan asal unduhan. Server kemudian memutuskan apakah akan menampilkan versi tak berbahaya atau beralih ke antarmuka web tersembunyi yang menawarkan puluhan templat deepfake eksplisit. Menurut para peneliti, pemicu tertentu—misalnya menginstal aplikasi setelah mengklik iklan di Facebook atau Instagram—dapat membuka lapisan tersembunyi tersebut.

Di dalam antarmuka rahasia itu, pengguna dapat mengunggah foto asli dan memasukkannya ke dalam adegan seksual, termasuk yang mengandung ancaman atau kekerasan. Untuk menghasilkan deepfake, pengguna harus membeli mata uang digital. Investigasi menemukan bahwa beberapa aplikasi bahkan menerima pembayaran melalui Apple Pay dan Google Pay, sementara daftar aplikasi yang tampak tidak berbahaya dan rating untuk semua usia tidak memberikan peringatan apa pun kepada pengguna yang tidak curiga.

Wired melacak sebagian besar jaringan ini ke pengembang asal Tiongkok dan entitas Hong Kong bernama KeLing Technology Limited, yang menghapus jejak online-nya setelah dihubungi. Apple menyatakan bahwa aplikasi-aplikasi tersebut awalnya mematuhi aturan selama peninjauan, tetapi pengembang kemudian mengubah perilakunya. App Store baru-baru ini memperbarui kebijakannya untuk menindak aplikasi yang memfasilitasi deepfake dan praktik bait-and-switch. Sementara itu, Meta mengklaim telah melarang KeLing beriklan sejak 2025 dan sejak itu mengambil tindakan terhadap ribuan akun dan memblokir ratusan aplikasi.

"Para operator deepfake AI ini terus menemukan cara baru untuk mendorong aplikasi mereka, bahkan ketika penyelidikan kami hampir selesai," tulis Wired dalam laporannya, seraya menambahkan bahwa iklan serupa masih bermunculan.

Uni Eropa akan memberlakukan larangan terhadap aplikasi semacam ini dalam waktu satu bulan. Namun, temuan Wired menunjukkan bahwa iklan-iklan serupa terus muncul kembali, mengindikasikan bahwa para pelaku tidak mudah jera. Regulasi yang lebih ketat di tingkat global tampaknya belum cukup membendung penyebaran alat deepfake seksual yang meresahkan ini.

Bagi Indonesia, fenomena ini menjadi peringatan serius. Dengan penetrasi smartphone yang tinggi dan semakin banyaknya pengguna aplikasi AI, risiko penyalahgunaan deepfake untuk konten pornografi non-konsensual dapat meningkat. Meskipun Indonesia memiliki Undang-Undang Informasi dan Transaksi Elektronik (ITE) yang melarang konten kesusilaan, pengawasan terhadap aplikasi yang menyamar sebagai alat biasa masih menjadi tantangan. Otoritas berwenang perlu memperkuat literasi digital masyarakat dan meningkatkan pengawasan terhadap aplikasi yang masuk ke toko aplikasi resmi.

Ke depan, pertanyaannya adalah apakah platform toko aplikasi dan jaringan iklan akan mampu menutup celah ini secara sistematis, atau justru terus berlomba dengan para pengembang yang kreatif mencari celah. Tanpa pengawasan yang lebih ketat dan kerja sama lintas negara, alat deepfake seksual akan tetap mudah diakses, meninggalkan korban tanpa perlindungan yang memadai.