Editorial ilmu komputer
Open AccessOA2026
Post-Training Berbasis Grounding dengan Contoh Sulit untuk Mengurangi Halusinasi pada Model Bahasa Besar Multimodal
Kerangka optimisasi preferensi bertahap yang membangun pasangan preferensi berfokus halusinasi di dekat batas kegagalan untuk meningkatkan grounding visual pada VLM.
Qinwu Xuยท 2026ยท DOI 10.48550/arXiv.2605.16411
Masalah inti
Halusinasi pada model vision-language (VLM) masih menjadi tantangan mendasar: generasi autoregresif dapat menghasilkan respons yang masuk akal secara linguistik namun tidak konsisten secara fisik atau tidak ter-grounding secara visual. Penulis mengaitkan hal ini dengan maksimalisasi likelihood di bawah pemodelan probabilistik bersama, di mana model lebih menyukai kelanjutan yang fasih bahkan ketika bukti visual lemah. Secara formal, diberikan gambar dan prompt teks , sebuah VLM menghasilkan respons dengan memaksimalkan probabilitas kondisional
. Tujuan ini dapat menghasilkan token halusinasi yang secara statistik mungkin tetapi tidak didukung secara visual. Makalah ini memperkenalkan kerangka optimisasi preferensi bertahap yang menargetkan pengurangan halusinasi melalui konstruksi data multimodal yang terarah, bukan data instruction-following generik. Ide utamanya adalah membangun secara progresif pasangan preferensi yang berfokus pada halusinasi di dekat batas kegagalan yang diketahui, dengan menekankan orientasi spasial yang ambigu, hubungan antar objek, ketidakpastian OCR, dan pelatihan premis palsu adversaria
Inovasi
Eksperimen dilakukan pada benchmark open-source dan skenario evaluasi multimodal dunia nyata. Kerangka yang diusulkan menunjukkan konsistensi grounding yang lebih baik, halusinasi yang berkurang, dan respons ter-grounding yang lebih informatif. Hasil kuantitatif menunjukkan penurunan signifikan dalam tingkat halusinasi (diukur sebagai proporsi objek atau atribut yang dihasilkan tidak ada dalam gambar) dibandingkan VLM baseline. Misalnya, pada benchmark penalaran spasial, tingkat halusinasi turun dari 24,3% menjadi 12,7% setelah DPO bertahap. Pada tugas ketidakpastian OCR, akurasi model dalam mengidentifikasi teks dengan benar meningkat sebesar 15,2 poin persentase. Evaluasi kualitatif lintas model lebih lanjut mengungkapkan bahwa kerangka DPO LLM multimodal yang diusulkan menghasilkan respons yang lebih ter-grounding secara visual dibandingkan beberapa VLM proprietary terdepan, terutama dalam pengaturan penalaran spasial yang ambigu dan premis palsu adversarial. Misalnya, ketika ditanya 'Apakah kucing berada di kiri anjing?' dengan gambar di mana kucing sebenarnya berada di kanan, model baseline sering menjawab 'Ya' (berhalusinasi), sementara model yang diusulkan menjawab dengan be
Halusinasi pada model vision-language (VLM) masih menjadi tantangan mendasar: generasi autoregresif dapat menghasilkan respons yang masuk akal secara linguistik namun tidak konsisten secara fisik atau tidak ter-grounding secara visual. Penulis mengaitkan hal ini dengan maksimalisasi likelihood di bawah pemodelan probabilistik bersama, di mana model lebih menyukai kelanjutan yang fasih bahkan ketika bukti visual lemah. Secara formal, diberikan gambar dan prompt teks , sebuah VLM menghasilkan respons dengan memaksimalkan probabilitas kondisional
. Tujuan ini dapat menghasilkan token halusinasi yang secara statistik mungkin tetapi tidak didukung secara visual. Makalah ini memperkenalkan kerangka optimisasi preferensi bertahap yang menargetkan pengurangan halusinasi melalui konstruksi data multimodal yang terarah, bukan data instruction-following generik. Ide utamanya adalah membangun secara progresif pasangan preferensi yang berfokus pada halusinasi di dekat batas kegagalan yang diketahui, dengan menekankan orientasi spasial yang ambigu, hubungan antar objek, ketidakpastian OCR, dan pelatihan premis palsu adversarial. Pendekatan ini bertujuan memisahkan penalaran yang ter-grounding dari halusinasi yang masuk akal dengan lebih baik menggunakan Direct Preference Optimization (DPO).
Kerangka yang diusulkan terdiri dari tiga tahap utama: (1) identifikasi batas kegagalan, (2) generasi hard negative, dan (3) pelatihan DPO bertahap. Pertama, model dievaluasi pada serangkaian tugas multimodal untuk mengidentifikasi wilayah di mana model sering berhalusinasi, seperti relasi spasial yang ambigu (misalnya, 'di kiri', 'di belakang') dan konteks OCR yang tidak pasti. Kedua, untuk setiap kasus kegagalan, alternatif yang diperturbasi secara minimal namun tidak konsisten secara visual dihasilkan sebagai sampel negatif. Misalnya, diberikan respons benar yang secara akurat mendeskripsikan posisi objek, sebuah negatif dibuat dengan mengubah preposisi spasial atau menukar atribut objek sambil mempertahankan kefasihan linguistik. Pasangan ini membentuk dataset preferensi. Ketiga, DPO diterapkan untuk mengoptimalkan kebijakan relatif terhadap model referensi menggunakan loss:
Mengapa penting
Temuan ini menunjukkan bahwa konstruksi data yang terarah di dekat batas kegagalan sangat penting untuk pengurangan halusinasi yang efektif. Dengan menghasilkan hard negative yang diperturbasi secara minimal namun tidak konsisten secara visual, tujuan DPO dapat lebih baik memisahkan penalaran yang ter-grounding dari halusinasi yang masuk akal. Pendekatan bertahap memungkinkan model untuk secara bertahap mempelajari pembedaan yang lebih halus, menghindari overfitting pada negatif mudah. Penulis mencatat bahwa meskipun kerangka ini meningkatkan grounding, kerangka ini tidak sepenuhnya menghilangkan halusinasi, terutama dalam skenario yang sangat ambigu atau adversarial. Mereka menyarankan bahwa pekerjaan di masa depan dapat mengeksplorasi pemodelan konsistensi fisik, penalaran multimodal yang sadar ketidakpastian, dan alternatif arsitektur di luar decoding autoregresif standar. Misalnya, memasukkan estimasi ketidakpastian eksplisit atau model berbasis energi dapat lebih lanjut mengurangi halusinasi dengan menghukum output yang tidak konsisten secara visual. Makalah ini juga menyoroti pentingnya mengevaluasi VLM pada pertanyaan premis palsu adversarial, karena ini mengekspos kecenderungan model untuk menyetujui pernyataan yang masuk akal secara linguistik tetapi salah secara visual. Secara keseluruhan, kerangka yang diusulkan menawarkan pendekatan praktis dan efektif untuk meningkatkan grounding visual pada LLM multimodal, dengan potensi integrasi ke dalam pipeline keamanan dan keandalan yang lebih luas.
Siapa yang sebaiknya membaca
Praktisi dan peneliti ilmu komputer
Membuka konten memberโฆ