Studi: Chatbot AI Sering Keliru Menafsirkan Al-Qur'an, Rujukan Palsu Mengancam Kredibilitas

Pemanfaatan kecerdasan buatan (AI) untuk menjawab persoalan keagamaan kian meluas di Indonesia, terutama di kalangan akademisi dan mahasiswa kampus Islam. Namun, sebuah studi terbaru mengungkapkan bahwa chatbot AI tidak layak dijadikan alat bantu tafsir Al-Qur'an karena tingginya tingkat ketidakakuratan yang berpotensi menyesatkan umat.

Riset yang dilakukan pada 2026 ini menguji tujuh model AI dengan mengajukan pertanyaan tentang makna fī sabīlillāh dalam Q.S. at-Taubah ayat 60, yang menjelaskan delapan golongan penerima zakat. Setiap model diberi pertanyaan yang sama sebanyak empat kali, menghasilkan total 28 jawaban yang kemudian dievaluasi oleh dua penilai independen. Hasilnya, ditemukan 248 kesalahan yang mencakup atribusi keliru, penyebutan pendapat yang diperselisihkan, hingga penyamaan istilah yang sebenarnya berbeda konteks.

Kesalahan paling mencolok adalah kekeliruan dalam membingkai konsep, mencapai 73 kasus atau 29,4 persen dari total kesalahan. AI sering mencampuradukkan pendapat para mufasir, seperti mengaitkan tafsir at-Tabari tentang penerima zakat dengan ketentuan diwan yang sebenarnya berasal dari Ibnu Katsir. Kesalahan semacam ini sulit dideteksi oleh pembaca awam karena jawaban AI tampak seperti ringkasan tafsir daring yang valid.

Selain itu, AI juga memproduksi sumber yang tidak dapat diverifikasi. Sebanyak 58 kasus fabrikasi sitasi ditemukan, di mana AI mencantumkan nama kitab, jilid, dan halaman yang tampak meyakinkan tetapi tidak sesuai dengan sumber aslinya. Contohnya, GPT-5.5 merujuk pada Tafsir al-Qurthubi jilid 8 halaman 111-112, padahal pembahasan yang dimaksud sebenarnya berada di sekitar halaman 185. Temuan ini menunjukkan bahwa AI tidak hanya salah dalam menjelaskan isi, tetapi juga menciptakan rujukan palsu yang sulit dilacak.

Kesalahan ketiga yang signifikan adalah penambahan nama tokoh yang tidak ada dalam sumber. Dalam 25 kasus, AI menyebut nama sahabat, tabi'in, atau ulama yang seolah-olah menjadi bagian dari riwayat, padahal tidak ditemukan dalam kitab rujukan. Claude Opus 4.8, misalnya, menyebut Ibrahim an-Nakha'i dalam penjelasan at-Tabari tentang fī sabīlillāh, padahal nama tersebut tidak ada dalam bagian tafsir yang dirujuk. Praktik ini membuat jawaban AI tampak lebih otoritatif, tetapi justru menjauhkan dari kebenaran.

Para peneliti menjelaskan bahwa akar masalah ini terletak pada cara kerja AI yang memperlakukan teks sebagai data statistik. Saat menerima pertanyaan, AI memecah teks menjadi unit kecil yang disebut token, lalu memprosesnya berdasarkan pola bahasa dari data besar. AI tidak membaca kitab tafsir seperti peneliti yang memeriksa halaman, membandingkan pendapat, dan memahami konteks. Sebaliknya, AI merangkai token menjadi jawaban yang dianggap paling mungkin, yang sering kali menghasilkan "halusinasi"—informasi yang tampak valid tetapi tidak sesuai dengan sumber asli.

Fenomena ini menjadi perhatian serius mengingat meningkatnya penggunaan AI di lingkungan pendidikan, termasuk di kampus-kampus Islam. Chatbot sering digunakan untuk membantu menyusun rencana pembelajaran dan mencari penjelasan tentang ayat-ayat Al-Qur'an. Padahal, tanpa verifikasi yang cermat, kesalahan tafsir dapat menyebar luas dan memengaruhi pemahaman umat.

Menurut para peneliti, langkah yang perlu diambil adalah mengembalikan posisi tafsir sebagai "teks hidup"—sebuah tradisi intelektual yang menekankan penelusuran sumber, pemahaman konteks, dan perbandingan pendapat. Informasi dari AI harus selalu diperiksa ulang dengan merujuk pada kitab-kitab tafsir otoritatif dan pendapat para ulama. Tradisi ini, yang diwariskan oleh para mufasir, menjadi benteng terakhir untuk menjaga keakuratan pemahaman keagamaan di tengah arus digitalisasi.

Ke depan, pertanyaan yang muncul adalah bagaimana lembaga pendidikan dan otoritas keagamaan di Indonesia merespons tantangan ini. Apakah akan ada regulasi atau panduan khusus untuk penggunaan AI dalam konteks keagamaan? Atau justru akan muncul kolaborasi antara pengembang teknologi dan para ulama untuk menciptakan AI yang lebih akurat dan bertanggung jawab? Jawaban atas pertanyaan ini akan menentukan arah pemanfaatan AI dalam kajian Islam di masa mendatang.