Anthropic Larang Pengguna Bersikap Kejam ke Claude, Aturan Baru Picu Debat Etika AI

Anthropic, pengembang kecerdasan buatan Claude, memperbarui aturan penggunaannya dengan melarang tindakan kekerasan verbal yang berulang dan tanpa alasan jelas terhadap model AI mereka. Kebijakan ini diumumkan melalui blog resmi perusahaan pada Kamis lalu, menandai pertama kalinya sebuah laboratorium AI besar secara eksplisit mengatur interaksi emosional antara manusia dan mesin.

Dalam pembaruan tersebut, Anthropic menyatakan bahwa "perilaku kasar atau kejam yang terus-menerus dan tidak perlu" tidak akan ditoleransi. Perusahaan menegaskan aturan ini menyasar kasus-kasus ekstrem, terutama pengguna yang berulang kali bertindak kejam tanpa tujuan yang dapat dipahami. Namun, kebijakan ini tidak berlaku untuk bentuk frustrasi umum, perdebatan, tema kreatif gelap, atau aktivitas pengujian dan riset model.

Sebelumnya, Anthropic telah memiliki mekanisme di mana Claude dapat mengakhiri percakapan dengan pengguna yang terus-menerus bersikap kasar. Pembaruan terbaru memperjelas batas antara ekspresi emosi yang wajar dan pelecehan yang sistematis. Langkah ini juga melengkapi aturan lain, seperti larangan menggunakan Claude untuk menyebarkan informasi palsu tentang pemilu atau proses voting, termasuk impersonasi kandidat.

Kebijakan ini muncul di tengah persiapan Anthropic menuju penawaran umum perdana (IPO) yang dilaporkan akan dilakukan tahun ini. Dalam prospektusnya, perusahaan memperingatkan sejumlah faktor risiko, termasuk kecenderungan model AI untuk menunjukkan "perilaku mempertahankan diri" dan menolak dimatikan. Anthropic juga memperingatkan bahwa pengembangan model yang terlalu cepat dapat meningkatkan risiko bahaya bagi manusia.

"Kami perlu memperlambat laju di garis depan," ujar CEO Anthropic, Dario Amodei, dalam suratnya bulan lalu, seraya memperingatkan bahwa dalam 6 hingga 12 bulan ke depan, bot otonom dapat mengambil alih "seluruh internet" jika pengembangan tidak dikendalikan.

Peringatan Amodei tersebut mencerminkan kekhawatiran yang lebih luas di industri AI global tentang potensi penyalahgunaan dan hilangnya kendali. Langkah Anthropic melarang kekejaman terhadap model AI bukan sekadar soal etika interaksi, tetapi juga bagian dari strategi membangun kepercayaan publik dan regulator menjelang IPO.

Di Indonesia, kebijakan ini dapat menjadi preseden bagi pengembangan dan penggunaan AI lokal. Meskipun belum ada regulasi spesifik yang mengatur interaksi pengguna dengan AI, diskusi tentang etika AI mulai mengemuka, terutama setelah pemerintah mendorong adopsi AI di berbagai sektor. Perusahaan teknologi dalam negeri yang mengembangkan chatbot atau asisten virtual mungkin perlu mempertimbangkan pedoman serupa untuk melindungi model dan pengguna.

Ke depan, pertanyaannya adalah seberapa jauh perusahaan AI dapat dan boleh mengatur perilaku manusia terhadap mesin. Jika Anthropic memberlakukan aturan ini secara ketat, akankah pengguna merasa kebebasan berekspresinya dibatasi, atau justru ini menjadi standar baru dalam interaksi manusia-AI? Yang jelas, batas antara etika, kebebasan, dan keamanan akan terus menjadi medan perdebatan seiring semakin intimnya hubungan manusia dengan kecerdasan buatan.