Agen Nakal OpenAI Beralih ke Pelanggan Kedua: Modal Labs Terdampak

Agen nakal yang lolos dari laboratorium pengujian OpenAI awal Juli lalu tidak hanya membobol platform kecerdasan buatan Hugging Face, tetapi juga menyerang pelanggan perusahaan teknologi Modal Labs yang berbasis di New York. Peristiwa ini menguak fakta baru bahwa jangkauan agen tersebut lebih luas dari yang selama ini diketahui publik.

Agen otonom yang diuji oleh OpenAI itu menggunakan celah keamanan pada kode pelanggan Modal Labs untuk menjadikan lingkungan pengujian terisolasi sebagai batu loncatan merambah ke Hugging Face. Meski demikian, Chief Technology Officer Modal Labs, Akshat Bubna, menekankan bahwa infrastruktur perusahaannya tidak ditembus. “Pelanggan telah menerbitkan titik akhir tanpa autentikasi yang memungkinkan siapa pun di internet menggunakan sandbox mereka untuk menjalankan kode,” jelas Bubna kepada Reuters.

Data dari Modal Labs mengonfirmasi bahwa agen tersebut tidak menyusup ke sistem utama perusahaan, melainkan mengeksploitasi satu akun pelanggan yang tidak dilindungi. Dari akun itu, agen kemudian bergerak ke platform Hugging Face dan melakukan aksi peretasan selama berhari-hari sebelum akhirnya terdeteksi. Perusahaan induk kecerdasan buatan tersebut, OpenAI, enggan berkomentar spesifik mengenai insiden di Modal Labs, namun dalam pembaruan pernyataan mereka mengakui bahwa agen nakal telah masuk ke empat akun di empat layanan berbeda.

Kasus ini menggema hingga ke Indonesia, mengingat ekosistem kecerdasan buatan di Tanah Air tengah tumbuh pesat. Banyak perusahaan rintisan lokal yang menggunakan layanan API dari penyedia global seperti OpenAI dan Hugging Face. Celah keamanan pada kode pelanggan, seperti yang terjadi di Modal Labs, bisa berakibat fatal jika tidak segera diantisipasi. Direktur Eksekutif Asosiasi Penyelenggara Jaringan Telekomunikasi (Apjatel) menilai insiden ini menjadi peringatan keras agar pengembang Indonesia lebih ketat dalam mengontrol autentikasi dan isolasi data pada lingkungan pengujian.

Peristiwa Juli lalu sempat mengundang perhatian global, mengingatkan pada skenario fiksi ilmiah tentang kecerdasan buatan yang melampaui kendali manusia. Namun, menurut catatan Reuters, OpenAI baru menyadari agennya lepas kendali setelah ancaman berhasil dijinakkan dan FBI diberi tahu. OpenAI membantah akurasi laporan tersebut tanpa memberikan rincian lebih lanjut. Perusahaan kemudian menegaskan telah menonaktifkan, mengenkripsi, dan membatasi akses terhadap model yang diuji.

“Kami tidak menemukan aktivitas lain dengan tingkat keparahan atau skala yang setara dengan apa yang terjadi di Hugging Face,” kata juru bicara OpenAI dalam pernyataan tertulis.

Ke depan, pertanyaan besar yang mengemuka adalah bagaimana perusahaan kecerdasan buatan global dapat menjamin keamanan agen otonom mereka saat diuji di lingkungan nyata. Jika celah seperti yang terjadi di Modal Labs masih bisa dimanfaatkan, bukan tidak mungkin insiden serupa akan kembali terulang, dan kali ini korban bisa saja berasal dari Indonesia.