Hantu AI di Ruang Sidang: Korea Selatan Gempur Preceden Palsu Buatan ChatGPT

Fenomena 'hantu AI' mulai menghantui ruang sidang di Korea Selatan. Sejumlah pengacara kedapatan mengutip putusan pengadilan dan pasal hukum yang tidak pernah ada—dihasilkan oleh kecerdasan buatan generatif seperti ChatGPT atau Google Gemini. Praktik ini memicu kekhawatiran serius di kalangan hakim dan mendorong otoritas peradilan untuk segera merevisi aturan.

Administrasi Pengadilan Nasional (NCA) Korea Selatan mengonfirmasi bahwa mereka tengah mengkaji amandemen undang-undang yang memungkinkan pengadilan menjatuhkan denda kepada pengacara yang mengajukan dokumen berisi referensi hukum palsu. Selain itu, aturan prosedur peradilan juga akan diubah untuk mewajibkan pihak berperkara mengungkapkan apakah mereka menggunakan AI dalam menyusun argumen hukum.

Langkah ini diambil setelah sejumlah insiden mencuat. Dalam satu kasus di Pengadilan Tinggi Daegu, seorang pengacara mengutip putusan Mahkamah Agung yang ternyata fiktif. Ketika diminta klarifikasi, ia malah menyebutkan putusan lain yang juga tidak ada. Di Pengadilan Distrik Ulsan, seorang advokat mengaku tidak memeriksa ulang hasil pencarian Google Gemini sebelum mengutipnya di persidangan.

Seorang hakim di Seoul mengungkapkan bahwa beban kerja mereka semakin berat karena harus memverifikasi setiap referensi yang diajukan. "Dulu saya cukup memberi catatan kaki untuk putusan palsu. Sekarang, jumlahnya begitu banyak sehingga saya harus menyebutkannya langsung di dalam kurung pada teks utama," ujarnya. Hakim lain menambahkan bahwa proses verifikasi memakan waktu berlebihan, apalagi jika ternyata hanya kesalahan ketik.

Menanggapi situasi ini, NCA telah meluncurkan sistem uji coba berbasis AI yang berisi kumpulan putusan Mahkamah Agung, manual praktik, dan komentar hukum. Sistem ini diharapkan membantu hakim mendeteksi referensi palsu secara otomatis. Namun, ironisnya, penggunaan AI justru menjadi sumber masalah baru. Para hakim kini harus menggunakan AI untuk melawan 'halusinasi' AI lainnya.

Fenomena ini tidak hanya terjadi di Korea Selatan. Di Amerika Serikat, kasus serupa pernah mencuat ketika seorang pengacara menggunakan ChatGPT untuk menyusun argumen hukum dan mengutip putusan fiktif. Hakim menjatuhkan sanksi disipliner. Di Indonesia, meskipun belum ada laporan resmi, potensi penyalahgunaan AI di ruang sidang juga mengintai. Sistem peradilan Indonesia yang masih bergantung pada verifikasi manual rentan terhadap praktik serupa, terutama dengan maraknya penggunaan AI generatif di kalangan praktisi hukum muda.

Langkah Korea Selatan—mulai dari kewajiban disclosure penggunaan AI hingga pengembangan sistem verifikasi internal—bisa menjadi acuan bagi Mahkamah Agung RI. Namun, tantangan terbesar bukan hanya pada regulasi, melainkan pada kesadaran etika profesi. Akankah pengadilan di Indonesia siap menghadapi gelombang 'hantu AI' sebelum terlambat?