Editorial ilmu komputer
Berbicara Melewati Mesin: Moralitas, Kesopanan, dan Penyelarasan dalam Dialog Manusia-AI
Masalah inti
Sistem AI percakapan kini menghasilkan respons yang fasih dan sesuai secara sosial, namun apakah sistem tersebut berpartisipasi dalam komunikasi kooperatif atau hanya menyimulasikan bentuk permukaannya masih belum jelas. Pertanyaan ini menjadi pusat bagaimana sistem tersebut dievaluasi, dipercaya, dan dirancang. Mitiaeva dan Xiao (2026) menyelidiki bagaimana tiga dimensi yang sentral dalam dialog kooperatif—moralitas, kesopanan, dan penyelarasan—berfungsi dalam interaksi manusia-AI dibandingkan dengan percakapan manusia-manusia.
Penelitian ini dilatarbelakangi oleh kesenjangan dalam praktik evaluasi: kefasihan permukaan sering dianggap sebagai bukti kompetensi sosial, tetapi komunikasi kooperatif pada manusia bertumpu pada adaptasi timbal balik, kepekaan terhadap muka (face sensitivity), dan posisi moral yang dinegosiasikan. Jika AI mereproduksi permukaan tanpa arsitekturnya, maka metrik tingkat giliran (turn-level) dapat melebih-lebihkan kualitas interaksi. Penulis karena itu membandingkan penyelarasan antar-giliran pada dua korpus besar untuk mengidentifikasi fitur mana yang memprediksi konvergensi, dan apakah fitur-fitur tersebut beroperasi secara identik dalam kedua konteks.
Inovasi
Analisis mengungkap disosiasi yang konsisten: AI menghasilkan fitur permukaan komunikasi kooperatif tanpa arsitektur sosial yang mendasarinya. Keluaran moral tampak terkonfigurasi sebelumnya alih-alih dinegosiasikan; kehangatan dihasilkan tanpa kepekaan muka; dan konvergensi linguistik menurun secara persisten.
Yang paling mencolok, mekanisme kooperatif itu sendiri berbalik arah. Hedging dan pelembutan, yang dikaitkan dengan akomodasi yang lebih besar antar manusia, dikaitkan dengan penyelarasan yang berkurang ketika dihasilkan oleh AI. Sebaliknya, pembingkaian kemurnian, yang dikaitkan dengan divergensi pada manusia, bertepatan dengan pengguna yang konvergen menuju AI.
Agensi—memberi pengguna ruang untuk membentuk pertukaran—adalah prediktor penyelarasan yang paling konsisten di kedua jenis interaksi. Hal ini menunjukkan bahwa keberhasilan tingkat interaksi lebih bergantung pada apakah sistem menyerahkan kendali percakapan daripada pada kesopanan permukaan. Penulis juga melaporkan bahwa ketegasan moral yang lebih rendah pada model yang lebih baru tidak disertai dengan kerja sama yang lebih baik, yang menunjukkan bahwa berkurangnya moralisasi tidak secara otomatis berarti penyela
Mengapa penting
Temuan ini menantang asumsi bahwa respons yang fasih dan sesuai secara sosial menunjukkan komunikasi kooperatif. Jika hedging dan pelembutan mengurangi penyelarasan ketika dihasilkan oleh AI, maka strategi kesopanan tidak dapat dievaluasi secara independen dari sumbernya. Bentuk linguistik yang sama membawa konsekuensi interaksional yang berbeda tergantung pada apakah dihasilkan oleh manusia atau mesin.
Hal ini berimplikasi pada evaluasi dan desain. Metrik tingkat giliran yang memberi imbalan pada kesopanan permukaan dapat secara tidak sengaja menghukum agensi, yang merupakan prediktor penyelarasan paling konsisten. Perancang karena itu harus memprioritaskan mekanisme yang memberi pengguna ruang untuk membentuk pertukaran, alih-alih mengoptimalkan kehangatan atau netralitas moral.
Pembalikan pembingkaian kemurnian sangat mencolok: pengguna konvergen menuju AI ketika AI menggunakan bahasa kemurnian, sedangkan bahasa kemurnian antar manusia memprediksi divergensi. Hal ini menunjukkan bahwa pembingkaian moral pada AI dapat berfungsi sebagai jangkar percakapan alih-alih titik negosiasi. Penulis menyimpulkan bahwa pandangan tingkat giliran mungkin tidak memadai untuk keberhasilan tingkat interaksi, dan bahwa penelitian selanjutnya harus memodelkan interaksi secara keseluruhan.
Model konseptual disosiasi ditunjukkan di bawah ini:
Batasan meliputi ketergantungan pada dua korpus dan sifat observasional data; klaim kausal tidak dapat dibenarkan. Meskipun demikian, konsistensi disosiasi di seluruh dimensi menunjukkan perbedaan struktural antara perilaku kooperatif manusia dan AI.
Siapa yang sebaiknya membaca
Membuka konten member…