ChatGPT Diminta Memeringkat Negara Bagian AS: Antara Kreativitas AI dan Batas Etika
Baca dalam 60 detik
- Pengguna memanfaatkan ChatGPT untuk membuat peringkat provinsi di AS berdasarkan kriteria subjektif seperti kecerdasan dan bau, memicu perdebatan tentang netralitas AI.
- Peringkat yang dihasilkan AI berpotensi memperkuat stereotip dan bias, karena model dilatih pada data yang mengandung prasangka.
- Perusahaan pengembang AI perlu memperjelas batasan penggunaan dan meningkatkan transparansi agar konten semacam ini tidak disalahartikan sebagai fakta.
Seorang pengguna ChatGPT baru-baru ini meminta model bahasa tersebut untuk membuat peringkat negara bagian di Amerika Serikat berdasarkan atribut subjektif seperti tingkat kecerdasan, aroma, dan suhu. Permintaan itu menghasilkan daftar yang kemudian menjadi viral, memicu diskusi tentang sejauh mana kecerdasan buatan sebaiknya digunakan untuk hal-hal yang bersifat menghakimi.
Meskipun permintaan tersebut terkesan iseng, insiden ini menyoroti bagaimana model seperti ChatGPT dapat dengan mudah dimanipulasi untuk menghasilkan konten yang berpotensi menyinggung. AI tidak memiliki pemahaman kontekstual yang mendalam tentang budaya atau sejarah suatu wilayah, sehingga peringkat yang dihasilkan hanyalah cerminan dari pola data yang dipelajarinya, bukan penilaian objektif.
Yang lebih mengkhawatirkan, peringkat semacam ini dapat memperkuat stereotip yang sudah ada. Misalnya, jika model mengaitkan negara bagian tertentu dengan tingkat kecerdasan rendah, hal itu bisa memperburuk prasangka yang beredar di masyarakat. Para ahli etika AI menilai bahwa pengembang perlu lebih proaktif mencegah penyalahgunaan model untuk tujuan yang diskriminatif.
Di Indonesia, kejadian ini menjadi pengingat bahwa pemanfaatan AI untuk konten yang bersifat menghakimi juga bisa terjadi. Dengan penetrasi internet yang tinggi dan penggunaan media sosial yang masif, konten serupa berpotensi menyebar dan memicu perpecahan. Pemerintah melalui Kominfo tengah menyusun regulasi etika AI, namun implementasinya masih menunggu pembahasan lebih lanjut.
"Model AI tidak memiliki niat, tetapi penggunaannya bisa mencerminkan prasangka yang ada di masyarakat," ujar seorang peneliti AI dari universitas ternama, seperti dikutip dari berbagai sumber.
Ke depannya, diperlukan literasi digital yang lebih baik agar masyarakat tidak menganggap hasil AI sebagai kebenaran mutlak. Pengembang juga didorong untuk menyertakan pengingat bahwa output AI bersifat generatif dan tidak selalu akurat. Tanpa langkah ini, insiden serupa berpotensi terus berulang dan merusak kepercayaan publik terhadap teknologi AI.
