Editorial ilmu komputer
Open AccessOA2026
Annie, Are You Okay? Bagaimana Personalisasi Berbasis Gaya dan Konteks Membentuk Pengambilan Keputusan Berbantuan AI
Eksperimen terpreregistrasi menunjukkan bahwa personalisasi berbasis konteks dalam nasihat keuangan AI mengarahkan keputusan tanpa meningkatkan persepsi kebenaran atau kepercayaan.
Hasibur Rahman; Benjamin R. Cowan; Smit Desai· 2026· DOI 10.48550/arXiv.2609.24644
Masalah inti
Ketika sistem AI generatif menjadi lazim dalam penasihat keuangan, sistem tersebut semakin mempersonalisasi cara mereka berkomunikasi (gaya) dan apa yang mereka rekomendasikan (konteks). Penelitian ini menyelidiki apakah kedua bentuk personalisasi ini secara berbeda memengaruhi pengambilan keputusan. Penulis melakukan eksperimen faktorial antara-subjek 2x2 terpreregistrasi dengan N=240 partisipan. Partisipan terlebih dahulu memberi peringkat tiga saham yang sama-sama layak, kemudian mendiskusikannya dengan penasihat AI, dan akhirnya memberi peringkat ulang saham tersebut. Hipotesis utamanya adalah bahwa personalisasi—baik gaya maupun konteks—dapat membentuk keputusan, tetapi mekanisme dan hasilnya mungkin berbeda. Pertanyaan penelitiannya adalah: Bagaimana personalisasi berbasis gaya dan konteks memengaruhi pengambilan keputusan berbantuan AI, dan apakah keduanya memengaruhi persepsi pengaruh, kebenaran, kepercayaan, kecerdasan, kesenangan, dan kualitas? Penelitian ini bertujuan mengungkap apakah AI yang dipersonalisasi dapat mengarahkan keputusan di antara opsi yang dapat dipertahankan dengan jejak evaluatif minimal, sehingga menimbulkan kekhawatiran bagi desain dan tata kelola.
Inovasi
Partisipan mempersepsikan kedua bentuk personalisasi, tetapi hanya personalisasi berbasis konteks yang secara andal mengubah perilaku peringkat. Secara spesifik, personalisasi berbasis konteks meningkatkan pertimbangan ulang dan menggeser peringkat ke arah rekomendasi yang ditetapkan AI. Sebaliknya, personalisasi berbasis gaya tidak secara signifikan memengaruhi perubahan peringkat. Meskipun ada pergeseran perilaku, partisipan tidak menilai AI lebih benar, lebih dapat dipercaya, lebih cerdas, lebih menyenangkan, atau lebih berkualitas ketika personalisasi berbasis konteks hadir. Menariknya, partisipan merasa lebih terpengaruh oleh AI ketika personalisasi digunakan. Mereka yang awalnya lebih jauh dari rekomendasi AI bergerak lebih ke arahnya, namun menilai nasihatnya kurang benar. Analisis eksploratif menunjukkan kerentanan yang lebih besar di antara partisipan dengan keahlian lebih rendah. Temuan ini menunjukkan bahwa personalisasi berbasis konteks dapat mengarahkan keputusan tanpa meninggalkan jejak evaluatif yang kuat, karena AI tidak dipersepsikan lebih kompeten atau lebih dapat dipercaya meskipun pengaruhnya ada.
Ketika sistem AI generatif menjadi lazim dalam penasihat keuangan, sistem tersebut semakin mempersonalisasi cara mereka berkomunikasi (gaya) dan apa yang mereka rekomendasikan (konteks). Penelitian ini menyelidiki apakah kedua bentuk personalisasi ini secara berbeda memengaruhi pengambilan keputusan. Penulis melakukan eksperimen faktorial antara-subjek 2x2 terpreregistrasi dengan N=240 partisipan. Partisipan terlebih dahulu memberi peringkat tiga saham yang sama-sama layak, kemudian mendiskusikannya dengan penasihat AI, dan akhirnya memberi peringkat ulang saham tersebut. Hipotesis utamanya adalah bahwa personalisasi—baik gaya maupun konteks—dapat membentuk keputusan, tetapi mekanisme dan hasilnya mungkin berbeda. Pertanyaan penelitiannya adalah: Bagaimana personalisasi berbasis gaya dan konteks memengaruhi pengambilan keputusan berbantuan AI, dan apakah keduanya memengaruhi persepsi pengaruh, kebenaran, kepercayaan, kecerdasan, kesenangan, dan kualitas? Penelitian ini bertujuan mengungkap apakah AI yang dipersonalisasi dapat mengarahkan keputusan di antara opsi yang dapat dipertahankan dengan jejak evaluatif minimal, sehingga menimbulkan kekhawatiran bagi desain dan tata kelola.
Eksperimen ini menggunakan desain antara-subjek 2x2, memanipulasi personalisasi berbasis gaya (ada vs. tidak ada) dan personalisasi berbasis konteks (ada vs. tidak ada). Partisipan (N=240) secara acak ditugaskan ke salah satu dari empat kondisi. Mereka terlebih dahulu memberi peringkat tiga saham yang sama-sama layak berdasarkan metrik keuangan. Kemudian mereka terlibat dalam diskusi dengan penasihat AI yang memberikan rekomendasi. Komunikasi AI dipersonalisasi baik dalam gaya (misalnya, menyesuaikan gaya bahasa partisipan) atau dalam konteks (misalnya, merujuk pada pilihan atau preferensi partisipan sebelumnya). Setelah diskusi, partisipan memberi peringkat ulang saham. Ukuran mencakup perubahan peringkat, persepsi pengaruh, dan evaluasi terhadap kebenaran, kepercayaan, kecerdasan, kesenangan, dan kualitas AI. Penelitian ini terpreregistrasi, memastikan transparansi dan reproduktibilitas. Analisis berfokus pada membandingkan pergeseran peringkat dan persepsi antar kondisi, dengan analisis eksploratif tentang keahlian dan jarak awal dari rekomendasi AI.
Mengapa penting
Hasil menunjukkan bahwa personalisasi berbasis konteks dapat secara halus mengarahkan pengambilan keputusan di antara opsi yang dapat dipertahankan. Tidak adanya peningkatan persepsi kebenaran atau kepercayaan menunjukkan bahwa pengaruh tersebut beroperasi tanpa partisipan mengenali AI sebagai lebih berwibawa. Hal ini menimbulkan kekhawatiran bagi desain dan tata kelola sistem dukungan keputusan yang dipersonalisasi, karena pengguna dapat terpengaruh tanpa menyadarinya. Temuan bahwa partisipan dengan keahlian lebih rendah lebih rentan menyoroti potensi kerentanan. Batasan penelitian ini mencakup konteks keuangan yang spesifik dan interaksi tunggal. Penelitian selanjutnya harus mengeksplorasi efek jangka panjang dan domain lain. Implikasinya menyerukan pedoman etis dan transparansi dalam personalisasi AI untuk mencegah pengaruh yang tidak semestinya. Persamaan untuk desain eksperimen dapat direpresentasikan sebagai:
, di mana adalah efek personalisasi gaya, adalah efek personalisasi konteks, dan adalah interaksinya. Diagram Mermaid alur eksperimen ditunjukkan di bawah ini:
Siapa yang sebaiknya membaca
Praktisi dan peneliti ilmu komputer
Membuka konten member…