Ancaman AI Bukan Sekadar Uang: Ketika Mesin Pembohong Menggerogoti Kepercayaan Manusia

Seorang veteran jurnalis Singapura, Han Fook Kwang, baru-baru ini mendapati dirinya menjadi tokoh utama dalam skenario penipuan berbasis kecerdasan buatan yang dirancang untuk menguras dompet korbannya. Dalam skema itu, ia digambarkan mewawancarai mantan menteri transportasi S Iswaran yang baru bebas dari penjara, dengan narasi bahwa Iswaran dijebak karena menemukan dana rahasia yang menguntungkan. Cerita palsu itu dilengkapi foto-foto yang tampak autentik dan tautan yang mengarahkan pembaca ke "dana rahasia"—sebuah jebakan investasi yang kini telah diblokir pemerintah Singapura.

Kasus ini bukan sekadar anekdot. Menurut Global Anti-Scam Alliance, kerugian akibat penipuan di seluruh dunia mencapai lebih dari US$1 triliun pada 2024—angka yang melampaui produk domestik bruto Singapura. Namun, bagi Han, yang kini menjadi Senior Fellow di S. Rajaratnam School of International Studies, dampak sebenarnya bukanlah uang. "AI adalah mesin pembohong pamungkas," tulisnya dalam sebuah kolom. "Jika tidak dikendalikan, ia akan menghancurkan kepercayaan pada institusi dan sesama manusia—fondasi yang diperlukan untuk kemajuan, perdamaian, dan keamanan."

Kecepatan dan skala adalah senjata utama AI. Studi IBM X-Force menunjukkan bahwa tugas yang membutuhkan 16 jam bagi penipu manusia—seperti meneliti target dan menulis email phishing personal—kini dapat diselesaikan AI dalam waktu kurang dari lima menit. Alat seperti FraudGPT dapat dibeli seharga US$75 untuk menjalankan kampanye penipuan yang tampak profesional. Lebih dari itu, AI mampu mereplikasi dan menyesuaikan skema penipuan untuk berbagai negara dan minat: penggemar sepak bola mungkin disuguhi cerita tentang Lionel Messi, sementara pencinta kuliner akan diiming-imingi Jamie Oliver. Laporan Interpol pada Maret lalu mencatat bahwa penipuan berbasis AI menghasilkan pendapatan 4,5 kali lipat lebih besar dibanding metode tradisional.

Di Indonesia, ancaman ini terasa semakin nyata. Dengan penetrasi internet yang tinggi dan literasi digital yang masih timpang, masyarakat rentan menjadi sasaran. Kementerian Komunikasi dan Digital telah memblokir ribuan konten penipuan, namun kecepatan AI dalam menghasilkan varian baru membuat regulasi seringkali tertinggal. Belum lagi potensi penyalahgunaan deepfake untuk mencemarkan nama tokoh publik atau menyebarkan disinformasi politik menjelang pemilu. Tanpa kerangka hukum yang adaptif, Indonesia bisa menjadi ladang subur bagi "mesin pembohong" ini.

Han menekankan bahwa solusi tidak bisa diserahkan sepenuhnya kepada perusahaan teknologi. "Mereka punya agenda sendiri dan terlalu fokus memenangkan persaingan," ujarnya. Pemerintah dan organisasi internasional, menurut dia, harus turun tangan—mulai dari menetapkan sanksi berat bagi pengembang AI yang digunakan untuk penipuan, hingga mendorong transparansi algoritma. Pertanyaannya: mampukah para pembuat kebijakan bergerak secepat inovasi AI? Atau akankah kita terus mengejar bayangan, selangkah demi selangkah, hingga kepercayaan publik benar-benar runtuh?