Keamanan AI Terabaikan: Tim Siber Dipaksa Bereaksi Setelah Aplikasi Berjalan
Baca dalam 60 detik
- Banyak perusahaan meluncurkan aplikasi AI ke produksi tanpa melibatkan tim keamanan sejak awal, meningkatkan risiko celah keamanan.
- Tim keamanan siber sering kali hanya bisa bereaksi secara taktis, bukan strategis, karena AI sudah berjalan sebelum dievaluasi.
- Pendekatan proaktif dengan mengintegrasikan keamanan sejak fase eksperimen AI menjadi kunci menghindari insiden di masa depan.
Lonjakan adopsi kecerdasan buatan (AI) di dunia usaha membuat tim keamanan siber kerap kecolongan: mereka baru dilibatkan setelah aplikasi AI meluncur ke produksi, bukan sejak tahap pengembangan. Kondisi ini memaksa para profesional keamanan untuk bertindak reaktif, alih-alih menyusun strategi pertahanan yang matang.
Fenomena ini diungkapkan oleh Joshua Goldfarb, Field CISO di F5, dalam analisisnya di SecurityWeek. Menurut Goldfarb, banyak perusahaan yang terburu-buru memindahkan proyek AI dari tahap eksperimen ke produksi begitu melihat potensi nilai bisnis, namun tanpa melibatkan tim keamanan. “Keamanan sering kali menjadi pemikiran kedua,” tulisnya, seraya menambahkan bahwa pengecualian memang ada, tetapi pola umumnya adalah keamanan tidak dilibatkan dalam lingkaran pengambilan keputusan.
Goldfarb, yang sebelumnya menjabat sebagai VP dan CTO di FireEye serta Chief of Analysis di US-CERT, menekankan bahwa organisasi keamanan akan jauh lebih efektif jika diberi kesempatan bertindak secara strategis. Dalam konteks keamanan aplikasi, hal itu berarti melibatkan tim keamanan sejak awal siklus pengembangan perangkat lunak. Namun, kenyataan di lapangan menunjukkan bahwa banyak tim keamanan baru mengetahui adanya aplikasi AI ketika aplikasi tersebut sudah berjalan dan membutuhkan pengamanan segera.
Keterlambatan pelibatan tim keamanan ini bukan tanpa risiko. Aplikasi AI yang tidak dirancang dengan mempertimbangkan aspek keamanan dapat menjadi celah bagi serangan siber, seperti manipulasi model, kebocoran data, atau penyalahgunaan sistem. Goldfarb mengibaratkan situasi ini seperti mendapat pertanyaan mendadak di forum publik: kita dipaksa bereaksi secara taktis tanpa persiapan, dan hasilnya sering jauh dari ideal.
Bagi Indonesia, fenomena ini relevan mengingat adopsi AI di sektor korporasi dan pemerintahan juga meningkat pesat. Bank Indonesia, misalnya, telah menggunakan AI untuk analisis data transaksi, sementara startup-startup fintech dan e-commerce mengandalkan AI untuk personalisasi layanan. Tanpa pengamanan yang terintegrasi sejak awal, data konsumen dan infrastruktur kritis bisa terancam. Regulator seperti Kominfo dan BSSN pun perlu mendorong agar keamanan menjadi bagian dari kerangka tata kelola AI nasional.
Goldfarb menawarkan beberapa langkah yang dapat membantu tim keamanan bersiap menghadapi kemungkinan aplikasi AI yang tiba-tiba masuk produksi. Pertama, membangun hubungan erat dengan tim pengembang dan pemilik aplikasi sejak fase eksperimen. Kedua, menyusun kebijakan keamanan yang jelas untuk penggunaan AI, termasuk proses review dan approval sebelum deployment. Ketiga, mengadopsi alat keamanan otomatis yang dapat memindai dan memonitor aplikasi AI secara berkelanjutan. “Meskipun keadaan ini jauh dari ideal, dengan mengambil langkah strategis, tim keamanan dapat meningkatkan kemampuan mereka untuk merespons dengan cepat dan tepat,” ujarnya.
Ke depan, tantangan tidak hanya terletak pada kecepatan adopsi AI, tetapi juga pada kesadaran bahwa keamanan bukanlah pengganjal, melainkan enabler. Pertanyaannya, akankah perusahaan di Indonesia belajar dari pengalaman global dan mulai melibatkan tim keamanan sejak awal, atau justru akan mengulangi kesalahan yang sama?
