Editorial Ilmu Komputer & AI
Open AccessOA2026
MorphoSHAP: Memikirkan Ulang Unit Atribusi dalam Penjelasan untuk Model Visual Dalam
Metode post-hoc yang agnostik terhadap model yang menggunakan bentuk morfologis sebagai pemain Shapley untuk penjelasan visual yang terstruktur
Anirudh Prabhakaran; Alexandre Rocchi; Gianni Franchi· 2026· DOI 10.48550/arXiv.2609.25815
Masalah inti
Metode atribusi visual untuk model dalam biasanya beroperasi pada piksel, superpiksel, atau patch reguler. Meskipun unit-unit ini dapat melokalisasi wilayah penting, unit-unit ini menawarkan wawasan yang terbatas tentang struktur bukti—seperti apakah itu batas, tekstur, atau bagian objek tertentu. MorphoSHAP mengatasi kesenjangan ini dengan memikirkan ulang unit atribusi: alih-alih piksel atau patch, metode ini menggunakan bentuk morfologis yang berasal dari Tree of Shapes. Setiap bentuk dicirikan oleh skala, geometri, dan kontribusi bertandanya, sehingga memungkinkan penjelasan yang menjawab di mana bukti berada, jenis struktur apa yang membawanya, dan seberapa kuat pengaruhnya terhadap prediksi. Kosakata morfologis bersama ini mendukung penjelasan spasial, tekstual, dan global pada tingkat kelas di luar heatmap yang spesifik untuk gambar. Sepengetahuan kami, MorphoSHAP adalah kerangka kerja atribusi gambar berbasis SHAP pertama yang menggabungkan berbagai bentuk penjelasan ini.
Inovasi
Para penulis mengevaluasi MorphoSHAP pada lima dataset yang beragam dan tiga arsitektur. Mereka melaporkan kinerja insertion/deletion yang kuat, metrik umum untuk kualitas atribusi di mana piksel atau wilayah secara progresif ditambahkan atau dihapus berdasarkan skor atribusi dan perubahan keluaran model diukur. MorphoSHAP mengungguli metode atribusi pesaing pada beberapa tolok ukur. Untuk insertion, area under the curve (AUC) yang lebih tinggi menunjukkan atribusi yang lebih baik; untuk deletion, AUC yang lebih rendah lebih baik. Makalah ini menyatakan bahwa MorphoSHAP mencapai kinerja yang kuat pada keduanya, meskipun hasil numerik spesifik tidak disediakan dalam abstrak. Selain itu, studi pengguna menunjukkan bahwa MorphoSHAP memberikan penjelasan yang mudah digunakan dan lebih disukai daripada baseline atribusi standar. Studi tersebut kemungkinan melibatkan peserta yang melakukan tugas seperti mengidentifikasi bentuk paling penting atau membandingkan penjelasan, dengan MorphoSHAP menerima peringkat preferensi yang lebih tinggi.
Metode atribusi visual untuk model dalam biasanya beroperasi pada piksel, superpiksel, atau patch reguler. Meskipun unit-unit ini dapat melokalisasi wilayah penting, unit-unit ini menawarkan wawasan yang terbatas tentang struktur bukti—seperti apakah itu batas, tekstur, atau bagian objek tertentu. MorphoSHAP mengatasi kesenjangan ini dengan memikirkan ulang unit atribusi: alih-alih piksel atau patch, metode ini menggunakan bentuk morfologis yang berasal dari Tree of Shapes. Setiap bentuk dicirikan oleh skala, geometri, dan kontribusi bertandanya, sehingga memungkinkan penjelasan yang menjawab di mana bukti berada, jenis struktur apa yang membawanya, dan seberapa kuat pengaruhnya terhadap prediksi. Kosakata morfologis bersama ini mendukung penjelasan spasial, tekstual, dan global pada tingkat kelas di luar heatmap yang spesifik untuk gambar. Sepengetahuan kami, MorphoSHAP adalah kerangka kerja atribusi gambar berbasis SHAP pertama yang menggabungkan berbagai bentuk penjelasan ini.
MorphoSHAP adalah metode post-hoc yang agnostik terhadap model yang merumuskan atribusi sebagai permainan Shapley di mana para pemainnya adalah bentuk morfologis yang diekstraksi melalui Tree of Shapes. Tree of Shapes memberikan representasi hierarkis dari sebuah gambar, di mana setiap simpul berkorespondensi dengan sebuah bentuk (komponen terhubung dari level set) dan bersarang menurut inklusi. Untuk gambar tertentu, himpunan bentuk
digunakan sebagai himpunan pemain dalam permainan kooperatif. Fungsi prediksi dievaluasi pada gambar bertopeng di mana bentuk dipertahankan atau dihapus. Nilai Shapley untuk bentuk dihitung sebagai:
Mengapa penting
Inovasi utama MorphoSHAP adalah penggunaan bentuk morfologis sebagai unit atribusi, yang memberikan representasi yang lebih terstruktur dan dapat diinterpretasikan daripada piksel atau patch. Dengan memanfaatkan Tree of Shapes, metode ini menangkap informasi hierarkis dan geometris yang sering hilang dalam metode lain. Kontribusi Shapley bertanda memungkinkan adanya bukti positif dan negatif, memberikan gambaran yang lebih lengkap tentang keputusan model. Kosakata morfologis bersama memungkinkan berbagai bentuk penjelasan: spasial (heatmap kontribusi bentuk), tekstual (deskripsi properti bentuk), dan global (prototipe tingkat kelas). Kombinasi ini unik di antara kerangka kerja atribusi gambar berbasis SHAP. Studi pengguna mengonfirmasi bahwa penjelasan ini tidak hanya lebih informatif tetapi juga lebih dapat digunakan. Namun, ketergantungan metode pada Tree of Shapes dapat menimbulkan overhead komputasi, dan aproksimasi Monte Carlo dari nilai Shapley bisa jadi bising. Pekerjaan selanjutnya dapat mengeksplorasi pengambilan sampel yang lebih efisien atau representasi morfologis alternatif. Secara keseluruhan, MorphoSHAP merupakan langkah signifikan menuju penjelasan visual yang lebih terstruktur dan dapat diinterpretasikan.
Siapa yang sebaiknya membaca
Praktisi dan peneliti ilmu komputer
Membuka konten member…