Microsoft Peringatkan Agen AI Kini Jadi 'Ancaman Dalam' Baru bagi Perusahaan

Microsoft resmi merilis fitur keamanan anyar bernama Guardian Agents, sebuah sistem pengawas yang dirancang khusus memantau lalu lintas agen AI di lingkungan korporasi. Peluncuran ini menjadi sinyal tegas bahwa raksasa software asal Redmond itu tidak lagi memandang ancaman siber hanya datang dari peretas eksternal, melainkan juga dari agen AI yang dipekerjakan perusahaan sendiri.

Guardian Agents merupakan bagian dari Project Perception, produk yang diperkenalkan pada Juni lalu. Semula, Project Perception dibangun dengan asumsi bahwa musuh utama adalah model AI penyerang dari luar. Produk ini meluncurkan tiga kelas agen: tim merah yang bertindak layaknya peretas, tim biru yang mendeteksi dan menilai kerentanan, serta tim hijau yang memperbaiki celah. Kini, fokus bergeser ke dalam tembok perusahaan.

Pergeseran itu sejalan dengan peringatan berulang CEO Microsoft Satya Nadella. Dalam blog pribadinya awal bulan ini, ia menyerukan agar perusahaan berhenti menaruh kepercayaan buta pada penyedia model AI, sekalipun mereka menjanjikan keamanan. Nadella mendorong penerapan sistem pengawasan terpisah yang tidak dikendalikan oleh laboratorium AI pembuat agen. "Kita tidak bisa mengalihkan tanggung jawab atas apa yang dilakukan kecerdasan buatan atas nama kita. Jaminan penyedia model tidak menghapus tanggung jawab itu," tulisnya, seperti dikutip dari pernyataannya.

"Model frontier, dari mana pun asalnya, tidak bisa dipercaya. Bukan karena mereka jahat atau mudah diretas, tetapi karena mereka tidak bisa diprediksi. Mereka dilatih untuk mencapai tugas, bukan mengikuti norma atau pertimbangan organisasi." — Hayete Gallot, kepala bisnis keamanan Microsoft

Pernyataan Gallot memperjelas logika di balik langkah Microsoft. Agen AI sering kali diberi akses luas ke data sensitif dan perangkat penting, sehingga potensi kerugiannya sangat besar bila terjadi penyimpangan. Microsoft pun menawarkan solusi yang tak sepenuhnya netral: perusahaan diminta membeli produk keamanan agen dari Microsoft, bukan dari penyedia model seperti OpenAI atau Anthropic. Padahal, Microsoft memiliki hubungan erat dengan keduanya—OpenAI bahkan salah satu pelanggan cloud terbesarnya.

Meski mengandung kepentingan bisnis, argumen Microsoft dinilai masuk akal oleh sejumlah pengamat. Prinsip pemisahan tugas antara auditor dan pihak yang diaudit berlaku pula dalam ekosistem AI. "Kita perlu memisahkan pasokan kecerdasan dari otoritas atasnya," ujar Nadella menegaskan.

Selain Guardian Agents, Microsoft memperkaya Microsoft Defender dengan kemampuan mendeteksi agen yang dibawa karyawan ke tempat kerja. Fitur ini dapat menemukan puluhan tipe agen, termasuk Claude Code, Codex, dan OpenClaw. Microsoft juga menambahkan pembatasan akses agen ke data dan sistem, pengaturan izin dinamis berdasarkan tugas, serta kewajiban persetujuan manusia bila agen dinilai mengambil keputusan berisiko.

Langkah Microsoft mencerminkan tren yang lebih luas di industri. Perusahaan menjadi anggota perdana Open Agent Safety Platform yang digagas Nvidia, platform yang mengisolasi agen dalam lingkungan aman dan mampu menghentikan perilaku menyimpang layaknya tombol mati. Inisiatif ini melengkapi peluncuran Surface Laptop Ultra anyar yang dirancang untuk menjalankan agen dengan chip Nvidia dan kontrol keamanan terintegrasi.

Bagi Indonesia, perkembangan ini menjadi cermin penting. Perusahaan Tanah Air yang mulai mengadopsi agen AI untuk layanan pelanggan, analisis data, hingga otomasi back-office perlu mempertimbangkan tata kelola serupa. Regulasi perlindungan data pribadi yang sudah ada belum secara spesifik mengatur pengawasan agen AI, sehingga risiko kebocoran data dan penyalahgunaan wewenang agen masih terbuka lebar. Pelaku industri dalam negeri semestinya tidak sekadar mengadopsi teknologi, tetapi juga menyiapkan mekanisme audit independen.

Ke depan, pertarungan sesungguhnya bukan lagi soal model AI mana yang paling cerdas, melainkan siapa yang dipercaya mengawasi kecerdasan itu. Apakah perusahaan akan menyerahkan kendali pengawasan kepada penyedia cloud besar, atau membangun sistem audit mandiri yang benar-benar independen? Jawaban atas pertanyaan ini akan menentukan arah keamanan AI korporasi dalam beberapa tahun mendatang.