Deepfake Sultan HB X Beredar di WhatsApp, Pemda DIY Imbau Waspada Penipuan AI

Gubernur Daerah Istimewa Yogyakarta sekaligus Raja Keraton Ngayogyakarta Hadiningrat, Sri Sultan Hamengku Buwono X, menjadi sasaran penyalahgunaan teknologi kecerdasan buatan (AI). Sebuah video yang menampilkan wajah dan suara Sultan hasil rekayasa deepfake beredar luas melalui aplikasi WhatsApp, memicu kekhawatiran akan maraknya penipuan digital yang memanfaatkan kemiripan visual dan audio tokoh publik.

Pemerintah Daerah DIY melalui Dinas Komunikasi dan Informatika (Diskominfo) mengonfirmasi temuan tersebut setelah mendapat laporan dari GKR Condrokirono, putri Sultan HB X. Tim humas langsung melakukan penelusuran dan menyimpulkan bahwa video itu bukan bagian dari dokumentasi resmi Pemda DIY. "Dari isi maupun cara penyampaiannya, kami memastikan itu merupakan video hasil rekayasa menggunakan AI," ujar Pranata Humas Ahli Madya Diskominfo DIY, Ditya Nanaryo Aji, Rabu (22/7).

Dalam video tersebut, narasi yang dibangun mengarah pada modus penipuan klasik: korban diminta melakukan pembayaran di muka untuk suatu barang sebelum barang dikirim. Yang membuatnya berbahaya adalah penggunaan figur publik yang sangat dikenal dan dipercaya masyarakat. "Isi videonya seolah-olah mengarahkan seseorang agar melakukan pembayaran suatu barang sebelum barang tersebut dikirim. Bahkan di dalam video itu juga disebut nama seseorang. Hal seperti ini tentu tidak mungkin disampaikan oleh Ngarsa Dalem," tegas Ditya.

Fenomena deepfake yang menyerang pejabat publik bukanlah hal baru di Indonesia. Sebelumnya, Presiden Joko Widodo dan sejumlah menteri juga pernah menjadi korban serupa. Namun, kasus ini menjadi pengingat bahwa teknologi AI kini semakin canggih dan mudah diakses, sehingga siapa pun bisa menjadi sasaran. Menurut catatan Kementerian Komunikasi dan Informatika, kasus penipuan berbasis deepfake meningkat signifikan dalam dua tahun terakhir, dengan kerugian mencapai miliaran rupiah.

Ditya menambahkan, hingga saat ini Pemda DIY belum membahas opsi pelaporan hukum. Prioritas utama adalah meningkatkan literasi digital masyarakat agar lebih kritis terhadap konten yang mencurigakan. "Kami ingin masyarakat semakin memahami bahwa teknologi AI dapat disalahgunakan untuk membuat konten yang tampak meyakinkan. Karena itu, setiap menerima video atau informasi yang mengatasnamakan Pemda DIY maupun Bapak Gubernur, pastikan terlebih dahulu sumbernya sebelum mempercayai atau menyebarkannya," imbaunya.

Kasus ini juga menyoroti celah regulasi di Indonesia terkait penyalahgunaan AI. Meskipun UU ITE telah mengatur sanksi bagi penyebar konten palsu, penegakan hukum seringkali terhambat oleh sulitnya melacak pelaku yang menggunakan teknologi anonim. Pengamat keamanan siber dari Universitas Gadjah Mada, Yohan Suryanto, menilai bahwa pendekatan preventif melalui edukasi memang penting, namun perlu diimbangi dengan penguatan infrastruktur deteksi dan respons cepat. "Masyarakat perlu dibekali kemampuan untuk memverifikasi konten, misalnya dengan mengecek kanal resmi atau menggunakan alat deteksi deepfake," ujarnya.

Ke depan, tantangan terbesar bukan hanya pada kecanggihan teknologi, tetapi juga pada kesadaran kolektif untuk tidak langsung percaya pada konten yang tampak meyakinkan. Pertanyaan yang menggantung: apakah penegak hukum dan platform digital mampu bergerak cepat sebelum modus serupa memakan lebih banyak korban?