Editorial Ilmu Komputer & AI
Menuju Pertahanan Siber Berbantuan AI yang Bertanggung Jawab: Pengenalan Pola, Pertahanan Berlapis, dan Argumen untuk Kolaborasi Manusia-AI
Masalah inti
Literatur keamanan siber telah banyak mendokumentasikan manfaat operasional kecerdasan buatan (AI) untuk deteksi ancaman, respons insiden, dan pencegahan, sekaligus mengangkat kekhawatiran kualitatif tentang otomatisasi berlebihan, bias algoritmik, dan erosi keterampilan analis. Yang masih largely absen adalah model formal dan falsifiabel yang menghubungkan tiga konstruk yang berulang di seluruh literatur ini: Defense-in-Depth Theory, Artificial Intelligence Theory of Pattern Recognition, dan kolaborasi manusia-AI dalam operasi keamanan. Makalah ini mengembangkan model tersebut.
Para penulis menjawab kesenjangan antara rekomendasi kualitatif—seperti "kolaborasi manusia-AI yang seimbang"—dan target desain yang dapat diuji untuk pusat operasi keamanan (SOC), termasuk yang mengamankan infrastruktur kritis terkonvergensi IT/OT. Pertanyaan penelitian utamanya adalah apakah alokasi kapasitas tinjauan manusia yang optimal dan terkuantifikasi ada ketika AI memperkuat pertahanan berlapis, dan bagaimana optimum itu bergantung pada trade-off deteksi dan alarm palsu.
Inovasi
Simulasi menghasilkan dua temuan utama.
**(i) Augmentasi AI berlipat ganda di seluruh lapisan pertahanan.** Keuntungan marginal dari augmentasi AI paling besar justru di tempat pelapisan tradisional mengalami saturasi. Dengan kata lain, ketika menambahkan lebih banyak lapisan konvensional menghasilkan imbal hasil yang menurun, augmentasi AI memberikan peningkatan inkremental terbesar. Efek berlipat ganda ini adalah konsekuensi langsung dari masuknya AI secara multiplikatif ke dalam kaskade Bernoulli: peningkatan pada setiap lapisan berlipat ganda alih-alih bertambah.
**(ii) Tinjauan manusia penuh atas peringatan yang ditandai AI tidak optimal.** Meningkatkan kapasitas analis menuju cakupan 100% memangkas alarm palsu sekitar 20 kali lipat tetapi sekaligus menurunkan probabilitas deteksi tingkat sistem. Alasannya adalah akurasi analis yang tidak sempurna kemudian diterapkan pada setiap peringatan alih-alih subset yang telah difilter. Ini menghasilkan optimum interior: terdapat rasio kapasitas yang menyeimbangkan probabilitas deteksi terhadap tingkat alarm palsu. Makalah ini melaporkan bahwa pada titik operasi yang ilustratif namun realistis, optimal secara ketat
Mengapa penting
Formalisasi dalam makalah ini mengubah debat kualitatif menjadi masalah desain kuantitatif. Model kaskade Bernoulli menunjukkan bahwa augmentasi AI tidak sekadar aditif tetapi multiplikatif, yang menjelaskan mengapa AI memberikan keuntungan marginal terbesarnya di tempat pelapisan tradisional mengalami saturasi. Ini memiliki implikasi langsung bagi strategi pertahanan berlapis: alih-alih menambahkan lebih banyak lapisan, para defender harus fokus pada augmentasi AI terhadap lapisan yang ada di tempat saturasi terjadi.
Model triase dengan kapasitas terbatas memberikan wawasan yang kontraintuitif namun dapat ditindaklanjuti: tinjauan manusia penuh tidak optimal. Pengurangan alarm palsu sebesar 20 kali lipat dari peningkatan kapasitas analis menuju 100% datang dengan biaya probabilitas deteksi yang lebih rendah, karena kesalahan manusia diterapkan secara universal alih-alih pada subset yang telah difilter. Ini menunjukkan bahwa SOC harus menargetkan rasio kapasitas pada titik optimum interior , yang dapat dihitung dari model dengan estimasi , , dan distribusi peringatan yang ditandai AI.
Para penulis memposisikan karya ini sebagai fondasi untuk pertahanan siber berbantuan AI yang bertanggung jawab. Model ini falsifiabel dan dapat diuji secara empiris di lingkungan SOC. Untuk infrastruktur kritis dengan konvergensi IT/OT, target desain berupa rasio kapasitas pada titik optimum interior menawarkan cara konkret untuk menyeimbangkan otomatisasi dan pengawasan manusia, menjawab kekhawatiran tentang otomatisasi berlebihan, bias algoritmik, dan erosi keterampilan analis. Pekerjaan selanjutnya dapat memperluas model ke lingkungan ancaman dinamis dan AI adversarial.
Siapa yang sebaiknya membaca
Membuka konten member…