Meta Gagal Deteksi Gambar AI-nya Sendiri Setelah Dipotong, Analisis Reuters Ungkap Celah Keamanan

Alat deteksi gambar buatan kecerdasan buatan (AI) yang baru diperkenalkan Meta Platforms gagal mengidentifikasi lebih dari separuh gambar hasil ciptaan model AI perusahaannya sendiri setelah gambar tersebut dipotong, demikian temuan analisis Reuters yang dirilis pekan ini. Celah ini muncul di tengah meningkatnya kekhawatiran global akan penyebaran deepfake, terutama pada tahun politik yang padat seperti pemilu di berbagai negara.

Dalam pengujian terhadap 40 gambar yang dihasilkan oleh Muse Image—model generasi gambar terbaru Meta—alat deteksi tersebut berhasil memverifikasi seluruh gambar asli. Namun, setelah gambar dipotong hingga sepertiga atau setengah dari ukuran aslinya, tingkat keberhasilan deteksi merosot drastis menjadi hanya 45 persen. Artinya, 55 persen gambar yang telah dimodifikasi luput dari radar sistem keamanan Meta.

Meta mengandalkan sistem watermarking tak kasat mata bernama Content Seal yang disematkan pada setiap gambar yang dihasilkan Muse Image. Perusahaan mengklaim watermark tersebut dirancang untuk tetap utuh meskipun gambar mengalami pengeditan umum. Namun, dalam praktiknya, sinyal watermark bisa hilang jika gambar dipotong secara signifikan. Meta pun mengakui bahwa alat deteksi yang mereka perkenalkan masih dalam tahap pratinjau dan belum sempurna.

Kelemahan ini bukan hanya masalah teknis. Di tengah tahun pemilu yang sibuk—termasuk pemilu paruh waktu AS—deepfake yang lolos verifikasi berpotensi menyesatkan publik dan merusak integritas informasi. Meta sendiri telah mendapat tekanan dari Oversight Board-nya pada Maret lalu untuk lebih serius menangani "proliferasi konten AI yang menipu" di platformnya dan berinvestasi pada alat deteksi yang lebih kuat.

Para ahli mengingatkan bahwa sistem watermarking bukanlah solusi ajaib. Siwei Lyu, profesor ilmu komputer di State University of New York at Buffalo yang meneliti forensik gambar AI, mengatakan bahwa metode berbasis watermark sangat efektif selama watermark tetap utuh. "Namun, modifikasi apa pun yang menghilangkan atau melemahkan sinyal yang disematkan—seperti pemotongan, pengubahan ukuran, kompresi berat, atau pengeditan—dapat mengurangi efektivitasnya, tergantung pada bagaimana watermark dirancang," ujarnya.

Sarah Barrington, peneliti AI dan kandidat PhD di UC Berkeley School of Information, menambahkan bahwa watermarking memang menjanjikan, tetapi tidak bisa diandalkan sepenuhnya. "Seperti banyak tindakan pencegahan keamanan siber atau keamanan fisik, mungkin tidak sepenuhnya kedap air, tetapi meskipun kita hanya menangkap 90 persen kasus, itu masih lompatan besar dari 0 persen," katanya.

Bagi Indonesia, temuan ini menjadi alarm dini. Adopsi AI di Tanah Air semakin masif, baik di sektor pemerintahan, bisnis, maupun kreatif. Namun, regulasi tentang konten sintetis masih terbatas. Tanpa sistem deteksi yang andal, potensi penyalahgunaan AI untuk menyebarkan disinformasi—terutama menjelang Pemilu 2024—semakin terbuka lebar. Lembaga seperti Kominfo dan Bawaslu perlu mulai mempertimbangkan standar watermarking dan alat verifikasi yang lebih tangguh, serta mendorong literasi digital masyarakat untuk tidak mudah percaya pada gambar yang beredar di media sosial.

Ke depan, pertanyaannya bukan hanya apakah Meta akan menyempurnakan Content Seal, tetapi juga seberapa cepat ekosistem digital global—termasuk Indonesia—dapat beradaptasi dengan realitas baru: bahwa gambar tidak lagi bisa dipercaya begitu saja, dan bahwa alat deteksi pun masih memiliki celah yang bisa dieksploitasi.