Editorial Ilmu Komputer & AI
Open AccessOA2024
XAI berbasis bukti untuk sistem pendukung keputusan klinis pada diagnosis diferensial: Desain, implementasi, dan evaluasi
Model Surrogate k-Nearest Neighbors untuk Diagnosis Diferensial yang Dapat Dijelaskan dengan Bukti dari Literatur Medis
Yasuhiko Miyachi; Osamu Ishii; Keijirou Torigoe· medRxiv· 2024· DOI 10.1101/2024.07.18.24310609
Masalah inti
Clinical Decision Support System (CDSS) membantu dokter dalam diagnosis diferensial (DDx), tetapi sifat black-box-nya membatasi kepercayaan dan adopsi. Penulis mengusulkan model Explainable AI (XAI) yang tidak hanya memprediksi penyakit tetapi juga mengidentifikasi instance data kasus mana yang berkontribusi terhadap prediksi dan menyediakan bukti dari literatur medis. Hal ini sejalan dengan Evidence-Based Medicine (EBM), yang menekankan penggunaan bukti terbaik yang tersedia. Model XAI ini dirancang untuk memenuhi persyaratan CDSS: transparansi, interpretabilitas, dan keterkaitan bukti. Berbeda dengan Large Language Model (LLM) komersial saat ini, CDSS ini menunjukkan bukti penyakit yang diprediksi kepada profesional medis, menjawab kesenjangan kritis dalam hal explainability.
Inovasi
Penulis mengevaluasi performa prediksi dan XAI. Model surrogate dengan "Selecting" (data yang paling dekat dengan model utama) mencapai performa prediksi dan XAI yang lebih tinggi dibandingkan model surrogate mandiri. Hasil kuantitatif tidak dirinci dalam abstrak, tetapi peningkatannya signifikan. Model k-NN Surrogate secara efektif mengidentifikasi instance yang berkontribusi dan menyediakan bukti literatur. Hasil ini menunjukkan bahwa strategi pemilihan meningkatkan fidelitas surrogate terhadap model utama, sehingga penjelasannya lebih andal. Performa XAI diukur dari seberapa baik penjelasan surrogate cocok dengan penalaran model utama, kemungkinan memakai metrik seperti fidelitas atau akurasi kepentingan fitur.
Clinical Decision Support System (CDSS) membantu dokter dalam diagnosis diferensial (DDx), tetapi sifat black-box-nya membatasi kepercayaan dan adopsi. Penulis mengusulkan model Explainable AI (XAI) yang tidak hanya memprediksi penyakit tetapi juga mengidentifikasi instance data kasus mana yang berkontribusi terhadap prediksi dan menyediakan bukti dari literatur medis. Hal ini sejalan dengan Evidence-Based Medicine (EBM), yang menekankan penggunaan bukti terbaik yang tersedia. Model XAI ini dirancang untuk memenuhi persyaratan CDSS: transparansi, interpretabilitas, dan keterkaitan bukti. Berbeda dengan Large Language Model (LLM) komersial saat ini, CDSS ini menunjukkan bukti penyakit yang diprediksi kepada profesional medis, menjawab kesenjangan kritis dalam hal explainability.
Penulis mengevaluasi performa prediksi dan XAI. Model surrogate dengan "Selecting" (data yang paling dekat dengan model utama) mencapai performa prediksi dan XAI yang lebih tinggi dibandingkan model surrogate mandiri. Hasil kuantitatif tidak dirinci dalam abstrak, tetapi peningkatannya signifikan. Model k-NN Surrogate secara efektif mengidentifikasi instance yang berkontribusi dan menyediakan bukti literatur. Hasil ini menunjukkan bahwa strategi pemilihan meningkatkan fidelitas surrogate terhadap model utama, sehingga penjelasannya lebih andal. Performa XAI diukur dari seberapa baik penjelasan surrogate cocok dengan penalaran model utama, kemungkinan memakai metrik seperti fidelitas atau akurasi kepentingan fitur.
Mengapa penting
Model k-NN Surrogate adalah model XAI yang berguna untuk CDSS, terutama bagi CDSS dengan tujuan dan fitur serupa. Model ini membantu dan mudah diimplementasikan, sehingga dapat diakses untuk lingkungan klinis. Dengan menyediakan bukti dari literatur medis, model ini mendukung EBM dan menjawab kurangnya explainability pada LLM saat ini. Desain model ini sejalan dengan persyaratan CDSS: model ini menawarkan penjelasan berbasis contoh yang dapat dipahami dokter, model surrogate lokal yang menjelaskan prediksi individual, dan k-NN untuk penalaran berbasis kasus. Pemilihan data yang paling dekat dengan model utama meningkatkan performa, yang menunjukkan bahwa model surrogate sebaiknya dilatih pada data yang mencerminkan batas keputusan model utama. Batasannya meliputi ketergantungan pada kualitas data literatur dan kebutuhan validasi lebih lanjut dalam uji klinis. Penelitian selanjutnya dapat memperluas model ini ke domain medis lain dan mengintegrasikannya dengan rekam medis elektronik.
Siapa yang sebaiknya membaca
Praktisi dan peneliti ilmu komputer
Membuka konten member…