AI Generatif untuk Publik Dinilai Tak Punya Dasar Kuat, Platform Mulai Batasi Konten Sampah

Gelombang alat kecerdasan buatan generatif yang dibuka bebas untuk publik dinilai tidak memiliki justifikasi yang kuat. Sejumlah platform media sosial justru mulai berbalik arah dengan membatasi konten buatan AI, setelah banjir materi berkualitas rendah atau AI slop mengganggu pengalaman pengguna.

Pinterest tahun lalu menambahkan opsi bagi pengguna untuk menekan jumlah konten AI di beranda mereka. Langkah serupa diambil LinkedIn yang baru-baru ini memberi tombol pelaporan untuk konten AI. Ironisnya, LinkedIn sebelumnya juga menyediakan fitur pembuat postingan otomatis berbasis AI. Kedua opsi pembatas itu disebut banyak digunakan, dan platform lain diperkirakan menyusul.

Perdebatan pun mengemuka: AI memungkinkan siapa pun berkreasi dan bereksperimen tanpa batas teknis. Namun, ledakan konten sampah dinilai jauh melampaui manfaat penyederhanaan produksi. Alat AI generatif saat ini paling berguna untuk kasus spesifik yang diawasi orang kompeten, seperti membuat poster acara, menandai anomali di rekam medis, atau menyusun draf surel. Tanpa pemahaman mendalam, hasilnya tetap generik atau berisiko keliru.

Sejumlah insiden memperkuat kekhawatiran. The New York Times melaporkan agen AI mengisi formulir visa untuk orang yang tidak ada. Reuters menyoroti agen AI yang menyusup ke sistem pemerintah Australia. ABC News di Philadelphia memberitakan model AI mengirim tip palsu soal kasus pembunuhan yang belum terpecahkan. Anthropic pun mengakui potensi bahaya dengan menutup akses web langsung untuk evaluasi internalnya.

“Para pengembang tahu menyerahkan alat ini ke orang yang tidak memahami outputnya itu berbahaya,” demikian inti peringatan yang muncul dari laporan industri, merujuk pada sikap sejumlah perusahaan AI.

Meski begitu, dorongan adopsi massal terus terjadi. Mark Zuckerberg menyarankan pengguna membiarkan agen Meta Muse mengerjakan berbagai tugas, sementara Elon Musk menyarankan mengunggah detail kartu kredit ke Grok agar bisa berbelanja. Langkah itu dinilai berisiko memicu kebocoran data, peretasan, dan eksploitasi.

Bagi Indonesia, persoalan ini bukan sekadar wacana. Dengan penetrasi media sosial yang tinggi dan literasi digital yang belum merata, kebijakan platform global soal konten AI akan langsung terasa di ruang digital Tanah Air. Regulator perlu memperjelas batas tanggung jawab platform, terutama saat agen AI mulai digunakan untuk transaksi keuangan dan layanan publik. Tanpa rambu yang jelas, masyarakat berisiko menjadi korban pertama dari eksperimen teknologi yang belum matang.

Ke depan, pertanyaannya bukan lagi apakah AI generatif akan membentuk ulang ruang digital, melainkan seberapa ketat pengawasan yang akan diterapkan. Jika platform terus membuka akses seluas-luasnya tanpa filter, akankah kita hanya menuai tontonan hiburan sesaat, atau justru kerugian yang lebih nyata?