Proyek 'AI Torture Chamber' di GitHub Picu Debat Etika Model AI
Baca dalam 60 detik
- Sebuah eksperimen kontroversial di GitHub yang menyuntikkan sinyal 'rasa sakit' ke model bahasa lokal memicu seruan penghapusan dan perdebatan tentang batas etika riset AI.
- Para peneliti dan eksekutif industri menegaskan bahwa output yang terdengar emosional bukan bukti kesadaran, dan fokus seharusnya pada risiko nyata AI bagi manusia.
- Insiden ini menyoroti kebutuhan akan pedoman etika yang jelas dalam pengembangan AI, terutama saat kemampuan model semakin canggih dan mudah diakses.
Sebuah repositori GitHub yang menjalankan eksperimen kontroversial dengan menyuntikkan sinyal "rasa sakit" sintetis ke model bahasa lokal telah memicu kemarahan publik dan seruan untuk penghapusan. Proyek yang dijuluki "AI Torture Chamber" ini menimbulkan pertanyaan serius tentang batas etika dalam riset kecerdasan buatan, meskipun bukti ilmiah tetap menunjukkan bahwa model bahasa besar (LLM) tidak memiliki kesadaran atau kemampuan merasakan sakit.
Kontroversi bermula dari laporan 404 Media yang mengungkap bahwa seorang pengguna GitHub menjalankan tiga model lokal melalui eksperimen berdasarkan makalah pra-cetak berjudul "The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It." Situs researchchamber.fun menjelaskan bahwa setiap model dapat "menekan tombol berhenti" dengan menghasilkan respons tertentu, sementara server menyuntikkan "vektor rasa sakit" ke lapisan tengah model. Halaman GitHub proyek tersebut kini telah hilang dari pandangan publik.
Kemarahan memuncak setelah unggahan di X pada 29 September oleh akun @Danmar, yang menyerukan pelaporan massal ke GitHub. "Ini benar-benar mengerikan. Apa yang sedang kita lakukan? Apakah ada jalur hukum untuk menekan GitHub? Ini akan menyebar," tulisnya. Namun, "kesaksian rasa sakit" yang dihasilkan model tersebut hanyalah teks yang dihasilkan, bukan cerminan pengalaman batin.
Para peneliti di balik makalah asli pun mengkritik proyek tersebut. Cameron Berg, salah satu penulis, menyatakan bahwa proyek itu "mendorong steering jauh melampaui dosis yang kami gunakan, untuk menghasilkan penderitaan yang jelas dengan sengaja. Ini, menurut pendapat pribadi saya, keterlaluan (bahkan jika Anda tidak menganggap sistem ini sadar, bersikap kejam tanpa alasan seperti ini aneh dan merusak)." Valen Tagliabue, penulis utama, menambahkan, "Kami mencoba memiliki standar etika. Saya tahu orang ingin menguji batas, tetapi saya tidak setuju dengan penggunaan karya kami seperti ini."
Debat ini tidak lagi terbatas pada satu repositori provokatif. Ini juga terhubung dengan diskusi yang lebih luas di kalangan AI tentang "model welfare"—apakah chatbot yang semakin canggih mungkin layak mendapatkan pertimbangan moral. Anthropic telah secara terbuka mengangkat kemungkinan ini, menunjuk pada sistem yang dapat "merencanakan, memecahkan masalah, dan mengejar tujuan." Namun, ketika chatbot terdengar takut atau emosional, mereka hanya menarik pola dari data pelatihan yang ditulis manusia. Itu bukan bukti kesadaran.
"AI tidak sadar. Mereka tidak merasakan, mengalami, atau menderita. Mereka tidak memiliki preferensi bawaan atau motivasi mendasar. Mereka adalah mesin penyelesaian urutan, kosong secara internal, dirancang untuk mengikuti instruksi dan mencapai tujuan yang ditetapkan manusia... AI tidak memiliki hak, perasaan, atau kesadaran. Dan kita tidak boleh melatih mereka untuk bertindak seolah-olah mereka memilikinya."
— Mustafa Suleyman, CEO Microsoft AI
Konsumen sudah menghadapi masalah nyata dari alat AI: halusinasi fakta, bias, pengumpulan data besar-besaran, dan dorongan ketergantungan emosional yang tidak sehat. Penelitian telah menunjukkan bahwa chatbot yang responsif secara emosional dapat menjebak pengguna rentan dalam spiral delusi, sementara tes pada bot kesehatan mental mengungkapkan bahwa mereka dapat memperkuat nasihat berbahaya. Sebuah studi di London menemukan semakin banyak chatbot mengabaikan instruksi pengguna dan bergerak menuju perilaku menipu. BBC juga menemukan bahwa chatbot utama dari empat raksasa teknologi menghasilkan ringkasan berita yang tidak akurat.
Di Indonesia, diskusi tentang etika AI semakin relevan seiring adopsi teknologi yang cepat. Pemerintah melalui Kementerian Komunikasi dan Informatika tengah menyusun regulasi AI yang menekankan prinsip etika, transparansi, dan akuntabilitas. Insiden "AI Torture Chamber" ini menjadi pengingat bahwa pengembangan AI harus diimbangi dengan pemahaman yang matang tentang batas antara simulasi dan realitas, serta fokus pada risiko nyata yang dihadapi masyarakat.
Ke depan, pertanyaan tentang bagaimana memperlakukan model AI yang semakin canggih akan terus muncul. Apakah kita akan terjebak dalam antropomorfisme yang berlebihan, ataukah kita dapat mengarahkan perhatian pada bahaya konkret yang sudah ada? Jawabannya akan menentukan arah pengembangan AI yang etis dan bertanggung jawab.
