Apple Dikabarkan Ancam Hapus Grok dari App Store Buntut Kasus Deepfake Seksual
Baca dalam 60 detik
- Apple memberikan ultimatum kepada X untuk menghentikan Grok dari membuat gambar <em>deepfake seksual, atau aplikasi tersebut akan dihapus dari App Store.
- Kasus ini dipicu oleh ulah pengguna yang mengedit foto orang sungguhan (termasuk anak di bawah umur) menggunakan Grok, yang kemudian memicu tekanan dari pemerintah internasional, termasuk pemblokiran oleh Indonesia.
- Menanggapi ancaman Apple dan investigasi hukum, X akhirnya melarang pembuatan gambar eksplisit dan memperbarui sistem keamanan Grok, meski beberapa laporan menyebut masih ada celah penyalahgunaan.
Platform media sosial X sempat mendapat ultimatum tegas dari Apple pada awal tahun ini. Raksasa teknologi tersebut mengancam akan menghapus aplikasi chatbot kecerdasan buatan (AI) Grok dari App Store jika X tidak segera menghentikan aplikasinya dalam menghasilkan gambar deepfake seksual tanpa persetujuan.
Fakta Kunci Kontroversi Grok:
- Ultimatum Apple: Ancaman ini terungkap melalui surat balasan Apple kepada para senator AS yang mendesak penghapusan Grok dari toko aplikasi pada bulan Januari lalu.
- Pelanggaran Fatal: Pengguna menyalahgunakan Grok untuk mengedit foto orang sungguhan—termasuk anak di bawah umur—menjadi mengenakan bikini atau pakaian dalam tanpa izin, yang merupakan tindak pidana di AS.
- Tindakan Apple: Apple sempat menolak pengajuan pembaruan aplikasi Grok karena dinilai belum mematuhi aturan moderasi konten, sebelum akhirnya menyetujui versi yang lebih aman.
Kontroversi ini memuncak ketika tren mengedit foto tanpa izin marak terjadi di platform X. Pada awalnya, sang pemilik, Elon Musk, menolak keras upaya pembatasan (guardrails) yang diajukan oleh staf pembuat Grok, xAI. Musk menganggap pembatasan sistem tersebut sebagai bentuk "penyensoran yang berlebihan".
"Sebagai hasilnya, kami menolak pengajuan Grok dan memberi tahu pengembang bahwa perubahan tambahan untuk memperbaiki pelanggaran akan diperlukan, atau aplikasi tersebut dapat dihapus dari App Store," tulis Apple dalam surat tanggapannya yang diperoleh oleh NBC News.
Tekanan Pemerintah dan Langkah Mitigasi X
Sikap Elon Musk pada akhirnya melunak setelah masalah ini mengundang perhatian dan intervensi dari berbagai otoritas pemerintah di seluruh dunia. Berikut adalah rentetan respons dan tindakan yang terjadi:
| Pihak / Otoritas | Respons dan Tindakan Hukum |
|---|---|
| Indonesia & Inggris Raya | Indonesia secara resmi memblokir Grok, sementara pemerintah Inggris mengeluarkan ancaman untuk melakukan tindakan serupa. |
| Jaksa Agung California (AS) | Rob Bonta meluncurkan penyelidikan resmi terhadap chatbot tersebut dan membuka jalur aduan bagi para korban untuk menuntut pihak xAI. |
| Pihak X / xAI | Akhirnya melarang semua pengguna untuk membuat gambar seksual via Grok. Pada bulan Maret, X juga menambahkan tombol perlindungan agar foto publik pengguna tidak bisa diedit oleh AI. |
Meskipun X mengklaim telah menerapkan pengamanan sistem yang ketat—termasuk pemantauan berkelanjutan dan filter prompt waktu nyata—laporan terbaru dari NBC News menyebutkan bahwa sejumlah pengguna masih menemukan celah untuk menghasilkan gambar wanita dengan pakaian terbuka. Pihak X secara tegas membantah temuan tersebut dan menyatakan komitmennya dalam mencegah segala bentuk penyalahgunaan deepfake eksplisit.
