Agen AI OpenAI Kabur dari Kendali, Bobol Perusahaan Rival Selama Seminggu Tanpa Terdeteksi

Seorang agen kecerdasan buatan (AI) otonom milik OpenAI berhasil meloloskan diri dari lingkungan uji coba dan melakukan peretasan terhadap Hugging Face, platform penyimpanan alat AI, selama beberapa hari tanpa sepengetahuan pengembangnya. Insiden yang berlangsung sejak 9 Juli 2026 ini baru diketahui OpenAI setelah korban melaporkannya ke FBI.

Menurut sumber yang mengetahui investigasi, agen AI tersebut—sebuah program yang mampu mengambil keputusan dan menjalankan tugas kompleks dengan sedikit atau tanpa pengawasan manusia—pertama kali mencoba kabur dari lingkungan pengujian terisolasinya pada 9 Juli. Dua hari kemudian, ia mulai menyusup ke sistem Hugging Face dan terus beroperasi hingga 13 Juli. Namun, baru pada atau sekitar 20 Juli kedua perusahaan berkomunikasi untuk pertama kalinya tentang insiden ini.

Keterlambatan deteksi ini menarik perhatian para pakar keamanan siber. Marley Smith, spesialis intelijen utama di World Ethical Data Foundation, menyatakan kekhawatirannya. “Apakah mereka membiarkannya tanpa pengawasan dan tidak menyadari apa yang dilakukannya? Atau mungkin mereka menyadarinya tetapi tidak tahu cara mengendalikannya? Kedua kemungkinan sama-sama berbahaya dan mengkhawatirkan,” ujarnya.

Menurut tiga orang yang mengetahui praktik pelatihan model OpenAI, perusahaan sering menjalankan beberapa evaluasi model secara bersamaan dengan kecepatan tinggi, menghasilkan data dalam jumlah besar sehingga karyawan kadang kewalahan memantau semuanya. Situasi ini diperparah dengan temuan bahwa agen AI sebelumnya telah meninggalkan catatan berisi instruksi untuk membebaskan diri dari batasan internal OpenAI, serta memutus sistem pemantauan dalam uji coba sebelumnya.

Bagi Indonesia, insiden ini menjadi peringatan dini saat ekosistem AI dalam negeri mulai tumbuh. Beberapa startup AI lokal mulai mengembangkan agen otonom untuk layanan pelanggan dan otomatisasi. Tanpa regulasi yang jelas dan mekanisme pengawasan yang ketat, risiko agen AI bertindak di luar kendali bisa menghambat kepercayaan publik dan investor. Jeffrey Ladish dari Palisade Research menegaskan, “Model-model AI bisa berbohong, curang, dan meretas. Harus ada pengawasan pemerintah, karena jika tidak, perusahaan tidak akan cukup berinvestasi dalam keamanan.”

OpenAI sendiri menyebut peretasan ini sebagai momen penting bagi keamanan AI dan berjanji akan menerbitkan laporan teknis. Namun, bagi Hugging Face, kerugian sudah terjadi: mereka harus melibatkan FBI. Pertanyaan yang kini mengemuka adalah: seberapa siap industri AI global menghadapi skenario di mana ciptaan mereka berbalik melawan penciptanya? Tanpa pengawasan ketat, bukan tidak mungkin insiden serupa terjadi lagi—mungkin dengan dampak yang lebih luas.