Buku soal Kebenaran & AI Justru Terjebak Halusinasi AI, Penulisnya Lawan Balik
Baca dalam 60 detik
- Steve Rosenbaum, penulis The Future of Truth, menemukan 26 kutipan palsu hasil halusinasi AI dalam bukunya setelah diendus New York Times.
- Kasus ini menyoroti pola kegagalan sistemik: AI menghasilkan kutipan yang terdengar meyakinkan, sementara proses verifikasi manusia kewalahan.
- Revisi buku yang terbit 6 Oktober 2026 menjadi uji coba transparansi di tengah absennya regulasi AI yang mengikat di banyak negara, termasuk Indonesia.
Steve Rosenbaum, penulis buku The Future of Truth: How AI Reshapes Reality, mengalami ironi pahit: buku yang memperingatkan bahaya AI terhadap kebenaran justru memuat puluhan kutipan palsu yang dihasilkan AI. Skandal itu mencuat setelah reporter The New York Times, Ben Mullin, memeriksa satu kutipan yang dikaitkan dengan peneliti anonim DARPA dan tidak menemukan sumbernya. Dua hari kemudian, artikel berjudul "'The Future of Truth' Contains Quotes Made Up by A.I." menghiasi halaman depan surat kabar itu, memicu gelombang kritik yang membuat Rosenbaum kehilangan jadwal acara dan podcastnya dibatalkan.
Kejadian ini bukan sekadar kesalahan teknis. Rosenbaum mengakui bahwa dalam proses penulisan yang berlangsung empat tahun, ia menggunakan AI untuk merapikan riset, meringkas dokumen, dan menyempurnakan bahasa. Penggunaan itu diungkapkan dalam bagian ucapan terima kasih. Namun, ia tidak menyangka bahwa alat bantu tersebut akan "memperbaiki" kutipan yang dianggapnya kurang meyakinkan. "Ada 15 bulan penyuntingan manusia yang berbenturan dengan AI yang semakin pintar," tulisnya dalam esai yang diterbitkan Fortune. Akibatnya, 26 kutipan yang tampak wajar lolos dari lima putaran penyuntingan dan lebih dari 4.000 perubahan terlacak.
Yang membuat kasus ini penting bukan hanya skala kesalahannya, melainkan pola yang terungkap. Menurut Rosenbaum, halusinasi AI tidak lagi mudah dikenali. "Dulu, tautan mati atau nomor DOI palsu bisa dengan cepat ditangkap. Sekarang, fabrikasi justru lebih fasih, spesifik, dan dibungkus dengan sitasi yang tampak asli," ujarnya. Ia menyoroti bahwa insentif industri AI—yang mengutamakan kecepatan, adopsi, dan jawaban yang memikat—membuat sistem enggan mengatakan "saya tidak tahu". Biaya kesalahan pun dilemparkan ke pengguna: penulis, pengacara, dokter, pasien, dan pembaca.
Rosenbaum tidak tinggal diam. Penerbitnya, BenBella Books, menugaskan dua pemeriksa fakta untuk menelusuri naskah baris demi baris. Setiap kutipan yang bermasalah dilacak ke sumber primer, diperbaiki, atau dihapus. Edisi revisi, The Future of Truth: Truth 2.0 Revised, dijadwalkan terbit 6 Oktober 2026 dengan catatan penulis yang menjelaskan secara terbuka apa yang terjadi. Ia juga menarik semua pujian sampul dan kata pengantar. "Saya harus mempertanggungjawabkan ini. Buku tentang kebenaran tidak boleh mengandung kesalahan," tegasnya.
"Saya menggunakan AI setiap hari, dan setiap hari ia berbohong kepada saya." — Seorang pekerja pemasaran yang ditemui Rosenbaum setelah acara di PBB.
Kasus Rosenbaum bukan anomali. Pada Juli 2026, Democracy Now! menayangkan kutipan Naomi Klein yang dihasilkan AI dari potongan ucapan aslinya. "Saat pertama melihatnya, saya pikir saya memang mengatakannya," kata Klein kepada Amy Goodman. Ketika ia mencari asal kutipan itu, Google AI justru mengarahkannya ke sistem AI lain. Fabrikasi telah menjadi sitasinya sendiri. Fenomena ini menunjukkan bahwa masalahnya bukan pada teknologi semata, melainkan pada model bisnis yang mentoleransi kesalahan yang dapat diprediksi demi pengalaman pengguna yang memikat.
Di Indonesia, risiko serupa mengintai. Berbagai sektor—jurnalisme, akademisi, hingga layanan hukum—mulai mengadopsi alat AI generatif tanpa kerangka verifikasi yang ketat. Regulasi AI di Indonesia masih dalam tahap rancangan, sementara platform global beroperasi dengan standar yang tidak seragam. Jika pola yang menimpa Rosenbaum terjadi di sini, kredibilitas institusi bisa runtuh sebelum mekanisme koreksi terbangun. Perusahaan teknologi dan pembuat kebijakan perlu belajar dari kasus ini: transparansi dan akuntabilitas bukan opsi, melainkan prasyarat.
Rosenbaum menolak menyerah pada AI. "Tidak ada dunia pra-AI untuk kembali. Gunakan alatnya, tapi jaga penilaian manusia, ungkapkan penggunaannya, verifikasi, dan koreksi kesalahan secara publik," serunya. Ia berharap edisi revisi bukunya menjadi langkah awal memulihkan kepercayaan. Pertanyaannya kini: apakah industri AI dan para penggunanya siap menanggung biaya verifikasi yang lebih lambat dan mahal, atau kita akan terus membiarkan jawaban yang memikat mengalahkan kebenaran?
