Editorial ilmu komputer
Membelokkan Kompas Nilai: Interaksi dengan Large Language Model Sementara Menggeser Prioritas Nilai Manusia ke Arah Fokus Personal
Masalah inti
Large language model (LLM) semakin banyak digunakan sebagai alat pendukung keputusan dalam konteks ketika nilai-nilai manusia saling bertentangan—dilema etis, alokasi sumber daya, dan saran antarpribadi. Meskipun banyak penelitian mengkaji penyelarasan LLM dengan nilai manusia, sedikit yang diketahui tentang apakah berinteraksi dengan model-model ini mengubah nilai mana yang diprioritaskan pengguna. Studi ini menjawab celah tersebut dengan bertanya: apakah interaksi singkat dan netral nilai dengan LLM menggeser prioritas nilai aktif pengguna selama penilaian berikutnya?
Para penulis mempreregistrasi studi terhadap 200 orang dewasa di Amerika Serikat untuk menguji apakah berinteraksi dengan ChatGPT, Claude, atau Gemini sebagai mitra berpikir—atau membaca pertimbangan tetap yang dihasilkan AI—mengubah prioritas nilai. Secara kritis, prompt meminta LLM mendukung penalaran tanpa merekomendasikan keputusan dan tidak menyebut nilai apa pun, sehingga mengisolasi efek interaksi itu sendiri dari pembingkaian nilai eksplisit atau persuasi. Peserta memberi saran kepada orang yang menghadapi dilema nyata dan mengisi formulir PVQ-RR (Portrait Values Questionnaire–Revised) paralel sebelum, sege
Inovasi
Setiap kondisi LLM sementara menggeser prioritas nilai ke arah fokus personal dibandingkan kondisi kontrol, dengan ukuran efek berkisar dari d = 0,37 hingga d = 0,51. Pergeseran ini terutama didorong oleh peningkatan nilai Self-Enhancement, yang menekankan keberhasilan pribadi, ambisi, dan dominasi atas orang lain. Efeknya teramati segera setelah interaksi dan bertahan satu tugas setelahnya, menunjukkan orientasi ulang sementara tetapi terukur pada nilai aktif selama penilaian.
Tidak ada konvergensi signifikan pada arah nilai yang terdeteksi: peserta tidak menjadi lebih mirip satu sama lain dalam prioritas nilai mereka, juga tidak mengadopsi nilai LLM (yang tidak dinyatakan secara eksplisit). Lebih lanjut, analisis saran peserta mengungkapkan bahwa mereka mempertahankan kata dan makna dari pertukaran mereka, menunjukkan bahwa interaksi memengaruhi isi penalaran mereka tanpa mengubah arah nilai yang mendasarinya. Kondisi kontrol tidak menunjukkan pergeseran semacam itu, menegaskan bahwa efeknya spesifik pada interaksi LLM. Hasil ini dirangkum dalam persamaan berikut, dengan ΔV mewakili perubahan prioritas nilai, β adalah efek kondisi, dan ε adalah galat:
\Delta V = \beta_0 + \be
Mengapa penting
Temuan ini menunjukkan bahwa interaksi LLM singkat yang tidak menyasar nilai maupun berupaya membujuk dapat mengorientasikan ulang nilai yang aktif selama penilaian. Hal ini menantang asumsi bahwa pergeseran nilai memerlukan pembingkaian nilai eksplisit atau niat persuasif. Sebaliknya, tindakan menalar dengan LLM sebagai mitra berpikir semata dapat memancing fokus personal, mungkin dengan mendorong pengguna mengartikulasikan dan mempertahankan posisi mereka sendiri, sehingga mengaktifkan nilai Self-Enhancement.
Tidak adanya konvergensi yang terdeteksi pada arah nilai atau saran menunjukkan bahwa efeknya bukan tentang mengadopsi nilai LLM (yang tidak diungkapkan), melainkan tentang pergeseran sementara pada salience nilai pengguna sendiri. Ini berimplikasi pada desain dan penerapan sistem pendukung keputusan berbasis LLM: bahkan interaksi yang netral nilai dapat memiliki efek yang sarat nilai. Desain terpreregistrasi dan penggunaan formulir PVQ-RR paralel memperkuat inferensi kausal, meskipun sampelnya terbatas pada orang dewasa di Amerika Serikat dan daya tahan jangka panjang dari pergeseran tersebut masih belum diketahui.
Penelitian selanjutnya harus mengeksplorasi apakah efek ini menggeneralisasi lintas budaya, tugas, dan arsitektur LLM, serta apakah dapat dimitigasi melalui intervensi desain. Diagram Mermaid berikut menggambarkan alur eksperimen dan hipotesis pergeseran nilai:
Secara keseluruhan, studi ini memberikan bukti bahwa interaksi LLM dapat secara halus membelokkan kompas nilai manusia ke arah fokus personal, menegaskan perlunya kesadaran dan penelitian lebih lanjut tentang efek psikologis dari penalaran yang dimediasi AI.
Siapa yang sebaiknya membaca
Membuka konten member…