Editorial Ilmu Komputer & AI
Open AccessOA2025
Tinjauan sistematis tentang integrasi kecerdasan artifisial yang dapat dijelaskan dalam sistem deteksi intrusi untuk meningkatkan transparansi dan interpretabilitas dalam keamanan siber
Tinjauan sistematis ini mengkaji integrasi Explainable AI (XAI) ke dalam Intrusion Detection Systems (IDS) untuk meningkatkan transparansi dan interpretabilitas. Kajian ini mengidentifikasi model XAI yang disukai, mengevaluasi efektivitasnya, dan menyoroti tantangan seperti trade-off akurasi serta kebutuhan akan metrik evaluasi yang terstandardisasi.
Vincent Zibi Mohale; I. Obagbuwa· Frontiers Artif. Intell.· 2025· DOI 10.3389/frai.2025.1526221
Masalah inti
Proliferasi ancaman siber yang canggih telah menuntut pengembangan Intrusion Detection Systems (IDS) yang tangguh dan mampu mendeteksi serta memitigasi pelanggaran secara real-time. IDS tradisional sering kali memakai algoritma machine learning kompleks yang mencapai akurasi tinggi tetapi kurang transparan, sehingga menimbulkan efek 'black box' yang menghambat pemahaman analis terhadap proses pengambilan keputusan. Explainable Artificial Intelligence (XAI) muncul sebagai solusi, menawarkan interpretabilitas dan transparansi untuk mendorong kepercayaan dan optimalisasi model IDS. Makalah ini menyajikan tinjauan sistematis integrasi XAI dalam IDS, dengan tujuan meningkatkan transparansi dan interpretabilitas dalam keamanan siber.
Inovasi
Tinjauan ini melakukan analisis komprehensif terhadap studi-studi terkini tentang XAI dalam IDS. Kajian ini secara sistematis mengidentifikasi teknik XAI yang umum digunakan, mengevaluasi efektivitasnya dalam kerangka IDS, serta mengkaji manfaat dan batasannya. Metodologi mencakup proses pencarian dan seleksi terstruktur, dengan fokus pada studi yang mengintegrasikan XAI ke dalam IDS untuk meningkatkan transparansi dan interpretabilitas. Aspek kunci seperti interpretabilitas model, akurasi deteksi, dan penerapan praktis dinilai.
Pendahuluan
Proliferasi ancaman siber yang canggih telah menuntut pengembangan Intrusion Detection Systems (IDS) yang tangguh dan mampu mendeteksi serta memitigasi pelanggaran secara real-time. IDS tradisional sering kali memakai algoritma machine learning kompleks yang mencapai akurasi tinggi tetapi kurang transparan, sehingga menimbulkan efek 'black box' yang menghambat pemahaman analis terhadap proses pengambilan keputusan. Explainable Artificial Intelligence (XAI) muncul sebagai solusi, menawarkan interpretabilitas dan transparansi untuk mendorong kepercayaan dan optimalisasi model IDS. Makalah ini menyajikan tinjauan sistematis integrasi XAI dalam IDS, dengan tujuan meningkatkan transparansi dan interpretabilitas dalam keamanan siber.
Mengapa penting
Analisis mengungkapkan bahwa meskipun XAI meningkatkan transparansi, integrasinya ke dalam IDS tidak lepas dari tantangan. Trade-off antara interpretabilitas dan akurasi menuntut pertimbangan cermat dalam pemilihan model berdasarkan kebutuhan keamanan spesifik. Standardisasi metrik evaluasi sangat penting untuk membandingkan teknik XAI di berbagai konteks IDS. Kerangka etis yang memprioritaskan keamanan sekaligus transparansi direkomendasikan untuk memandu pengembangan di masa depan. Makalah ini ditutup dengan rekomendasi untuk penelitian selanjutnya, termasuk pengembangan teknik XAI yang disesuaikan untuk IDS, metrik evaluasi yang terstandardisasi, dan pedoman etis. Tinjauan ini bertujuan memberi informasi kepada peneliti dan praktisi tentang tren saat ini dan peluang masa depan dalam memanfaatkan XAI untuk meningkatkan efektivitas IDS, mendorong lanskap keamanan siber yang lebih transparan dan tangguh.
Siapa yang sebaiknya membaca
Pembaca Research Digest dan praktisi rumpun ini.
Membuka konten member…