ExplainGuard: Kerangka Zero Trust untuk Jaminan Integritas Penjelasan Post-Hoc pada Model XAI Blackbox

Seiring model machine learning (ML) semakin banyak digunakan di lingkungan berisiko tinggi, metode explainable AI (XAI) seperti SHAP dan LIME menjadi penting untuk kepatuhan regulasi dan kepercayaan. Namun, paradigma audit saat ini bergantung pada "chain of trust" implisit yang mengasumsikan auditor pihak ketiga dapat dipercaya. Penelitian terbaru menunjukkan bahwa asumsi ini cacat: auditor adversarial dapat memanipulasi penjelasan XAI melalui serangan manipulasi seperti output shuffling atau scaffolding out-of-distribution (OOD) untuk menyembunyikan bias model sambil mempertahankan akurasi prediksi yang tinggi, dengan tujuan menghasilkan penjelasan yang fairwashed. Makalah ini memperkenalkan ExplainGuard, kerangka pertahanan baru yang memanfaatkan desain Zero-Trust Architecture (ZTA) untuk diintegrasikan dalam rantai pasok penjelasan XAI dan menjamin integritas penjelasan yang dihasilkan. Kerangka ini menggantikan asumsi default yang ambigu "auditor dapat dipercaya" dengan pendekatan "verify-then-trust" yang berkelanjutan.

Makalah ini mengevaluasi ExplainGuard terhadap serangan manipulasi penjelasan mutakhir. Hasilnya menunjukkan bahwa ExplainGuard secara efektif menetralkan serangan tersebut dengan mendeteksi dan menolak penjelasan yang dimanipulasi. Secara spesifik, pemeriksaan integritas aset berhasil mengidentifikasi serangan substitusi model, pemeriksaan validitas semantik menolak penjelasan yang melanggar properti aksiomatik, dan pemeriksaan kesetiaan fitur mendeteksi ketidakstabilan peringkat yang diakibatkan manipulasi. Kerangka ini mempertahankan akurasi prediksi yang tinggi sekaligus menjamin integritas penjelasan, dengan overhead komputasi minimal.