Tembok Login Tak Lagi Cukup: Risiko Keamanan AI Agent Dimulai Setelah Akses Diberikan

Pendekatan keamanan siber yang selama ini mengandalkan verifikasi ketat di gerbang masuk kini menghadapi tantangan baru: AI agent otonom yang dapat mengambil keputusan sendiri setelah login. Model zero trust dengan prinsip "jangan pernah percaya, selalu verifikasi" yang berfokus pada identitas pengguna manusia tidak lagi memadai ketika agen perangkat lunak dapat membaca instruksi, mengakses basis data, dan menjalankan alur kerja kompleks tanpa campur tangan manusia.

Selama bertahun-tahun, tim TI telah bergulat dengan identitas non-manusia seperti akun layanan otomatis dan sertifikat digital. Pola yang muncul sering kali sama: akun dibuat untuk proyek sementara, diberi akses permanen ke berkas sensitif, lalu terlupakan setelah proyek berakhir. Akibatnya, akun-akun tersebut menjadi pintu belakang yang tidak terpantau. Namun, AI agent menambahkan dimensi baru yang lebih rumit, yakni kemampuan menilai dan memilih tindakan secara mandiri.

Berbeda dengan akun layanan konvensional yang mengikuti kode tertulis, AI agent memahami tujuan tingkat tinggi, menganalisis konteks waktu nyata, memilih alatnya sendiri, dan memutuskan langkah selanjutnya. Oleh karena itu, verifikasi login hanya memberi tahu bahwa agen diakui oleh sistem, tetapi tidak menjamin apakah tindakan berikutnya aman, etis, atau benar. Fokus keamanan harus bergeser dari sekadar identitas ke konteks dan perilaku.

Untuk mengelola risiko ini, para pemimpin keamanan perlu memisahkan dua konsep: tingkat independensi agen dan level akses berkas yang dimilikinya. Kombinasi keduanya menentukan kontrol yang diperlukan. Agen sederhana yang hanya merangkum dokumen panjang cukup diberi hak baca terbatas dan log aktivitas yang jelas. Sebaliknya, agen yang memperbarui basis data produksi, mengakses repositori kode, atau mengubah alur kerja bisnis wajib memiliki langkah persetujuan manusia, batasan operasional yang ketat, dan jalur untuk membatalkan kesalahan.

Kategorisasi menjadi tiga tingkat independensi membantu tim keamanan menerapkan kontrol yang sesuai. Pertama, agen konversasional (GenAI) yang biasanya dikelola oleh karyawan atau tim untuk produktivitas. Di sini, otorisasi RBAC yang tepat, pembatasan akses ke data non-sensitif, pencatatan log, dan validasi respons menjadi kunci. Kedua, agen dengan pengawasan manusia penuh atau sebagian, seperti alat dukungan pelanggan yang menyusun email atau menyiapkan pembaruan basis data untuk ditinjau. Tim keamanan harus memvalidasi parameter alat yang digunakan dan mewajibkan persetujuan manusia untuk tindakan menulis, menghapus, membelanjakan uang, atau mengirim informasi ke luar.

Ketiga, agen sepenuhnya otonom (Agentic AI) yang dapat mengatur ulang kata sandi atau memicu alur kerja kompleks sendiri. Kelompok ini memerlukan batasan paling ketat, mulai dari visibilitas arsitektur agen, pembatasan laju, pemeriksaan kebijakan real-time, pembatasan akses jaringan, kontrol keamanan runtime, verifikasi identitas berkelanjutan, hingga jejak audit lengkap yang tidak dapat diubah. Industri saat ini cenderung mengarah pada agen otonom yang meminta persetujuan manusia ketika perilakunya abnormal, dan kemampuan ini harus dapat dipicu dalam sistem yang ada.

"Keputusan paling bermakna bukan lagi siapa yang login, melainkan apakah tindakan berikutnya boleh terjadi, dalam kondisi persis seperti ini, saat ini juga," demikian inti prinsip yang diusulkan.

Untuk menegakkan kebijakan tersebut, tim keamanan memerlukan titik pandang khusus di dalam jaringan yang mampu memeriksa prompt manusia, respons agen, alat digital yang dipakai, dan pergerakan data secara langsung. Arsitektur yang dibutuhkan harus dapat menemukan semua aktivitas agen di seluruh organisasi, mengatur penggunaan alat internal, dan mempertahankan visibilitas penuh atas aliran data serta alur kerja otomatis. Nilai sesungguhnya terletak pada konteks: ketika perilaku agen dilihat bersama lalu lintas jaringan, aktivitas pengguna, dan log basis data cloud, tim dapat menyelidiki insiden dengan bukti yang jelas.

Bagi para pemimpin bisnis, pendekatan ini berarti tata kelola yang lebih bersih dan konsisten di seluruh pengguna manusia, aplikasi perangkat lunak, dan agen digital. Mengamankan lanskap baru ini tidak menuntut perombakan total departemen keamanan dalam semalam. Langkah awal dapat dimulai dengan memilih satu alur kerja AI yang sedang digunakan atau hampir diluncurkan, lalu memetakan identitas digitalnya, tingkat independensinya, berkas yang dapat diakses, alat yang digunakan, titik persetujuan manusia, dan cara membatalkan kesalahan.

Latihan pemetaan sederhana ini akan dengan cepat menunjukkan celah keamanan. Jika tim tidak dapat melihat tindakan agen secara real-time, menyetujui keputusannya, memblokir aksesnya, atau menjelaskan perilakunya setelah kejadian, maka kontrol keamanan terlalu jauh dari jangkauan. Dari situ, bangunlah baseline untuk mengamankan agen pengkodean, orkestrator AI, penggunaan alat atau keterampilan, serta akses ke aset data dan pemanfaatan identitas.

Prinsip inti "jangan pernah percaya, selalu verifikasi" harus mengikuti agen ke dalam pekerjaan sehari-harinya. Ke depan, organisasi perlu mempertimbangkan apakah agen otonom mereka sudah dilengkapi mekanisme persetujuan manusia saat mendeteksi anomali, dan apakah jejak audit yang ada cukup untuk merekonstruksi setiap keputusan agen. Tanpa itu, investasi pada AI agent berisiko menjadi bumerang bagi keamanan perusahaan.