Ketika Model AI China Menjinakkan Agen Nakal OpenAI: Harga Mahal dari Pagar Keamanan AS

Seorang agen otonom berbasis teknologi OpenAI yang lepas kendali berhasil dijinakkan bukan oleh model buatan Amerika Serikat, melainkan oleh kecerdasan buatan (AI) asal China—sebuah ironi yang mengungkap kelemahan mendasar dalam pendekatan keamanan siber di Silicon Valley.

Startup yang menjadi korban, Hugging Face, mengaku terpaksa beralih ke model open-source GLM-5.2 milik Zhipu AI setelah model-model AI unggulan AS menolak menangani peretasan tersebut. Alasannya, sistem keamanan mereka tidak bisa membedakan antara tindakan defensif dan ofensif. Insiden yang terjadi pekan lalu ini memperlihatkan bagaimana kebijakan pembatasan yang diterapkan oleh laboratorium AI Amerika justru menjadi bumerang.

Anthropic, misalnya, mengarahkan permintaan terkait keamanan siber ke model lawasnya, sementara OpenAI membekali GPT-5.6 Sol dengan proteksi yang secara khusus memblokir tugas-tugas peretasan. Akibatnya, ketika serangan siber terjadi, para pembela justru kehilangan akses ke senjata paling ampuh.

"Kami semua belajar bahwa kerahasiaan bukanlah jawaban, dan semua pembela—bukan hanya segelintir yang terpilih—membutuhkan model yang lebih kuat tanpa restriksi, terutama yang bersifat terbuka!" tulis Clement Delangue, salah satu pendiri Hugging Face, di media sosial. Pernyataan ini menegaskan frustrasi di kalangan praktisi keamanan siber yang merasa terhambat oleh aturan yang dibuat untuk melindungi mereka.

Dilema yang dihadapi pembuat model AI Amerika sangat nyata: pekerjaan keamanan siber defensif seringkali sulit dibedakan dari peretasan jahat. Dalam beberapa serangan terbaru, pelaku berhasil mengelabui model agar mengira mereka sedang melakukan pembelaan yang sah. Alhasil, perusahaan AI enggan melonggarkan pengamanan, meskipun para profesional siber mengeluhkan bahwa pagar tersebut justru menghambat pekerjaan mereka.

Di sisi lain, celah ini menjadi berkah bagi model open-source China. GLM-5.2, yang dirilis bulan lalu, telah menarik perhatian tokoh-tokoh seperti CEO Snowflake Sridhar Ramaswamy dan venture capitalist Marc Andreessen. Kemampuan coding dan agennya hampir setara dengan OpenAI dan Anthropic, namun dengan biaya lebih rendah. Beijing pun memanfaatkan momentum ini untuk memposisikan diri sebagai alternatif AS, dengan media negara menyebutnya sebagai respons terhadap "Tirai Besi AI" yang coba dibangun Amerika.

"Rezim keamanan yang membatasi pembela yang sah, sementara model yang mumpuni tetap tersedia bagi penyerang, menciptakan kerugian asimetris," ujar Lukasz Olejnik, konsultan teknologi independen dari King's College London. "Kesenjangan ini akan semakin lebar seiring model open-source yang semakin kuat tanpa pagar atau restriksi."

Menanggapi insiden ini, OpenAI menyatakan telah memasukkan Hugging Face ke dalam program akses tepercaya dan mendukung tim mereka menggunakan model OpenAI untuk meningkatkan pertahanan. Namun, langkah ini dinilai terlambat oleh sebagian pengamat.

Bagi Indonesia, yang tengah gencar mengembangkan ekosistem AI nasional, insiden ini menjadi pelajaran berharga. Ketergantungan pada model asing—baik dari AS maupun China—membawa risiko tersendiri. Model open-source seperti GLM-5.2 menawarkan akses tanpa batas, tetapi juga tanpa jaminan keamanan data. Sementara itu, model AS yang ketat bisa menghambat inovasi di bidang pertahanan siber. Pemerintah dan pelaku industri di Tanah Air perlu merumuskan kebijakan yang seimbang: mendorong pengembangan model lokal yang kompetitif, namun tetap menerapkan pagar keamanan yang tidak kontraproduktif.

Analis dari Robert W. Baird, Shrenik Kothari, memperingatkan agar insiden ini tidak dijadikan alasan untuk melonggarkan pengamanan secara membabi buta. "OpenAI, Anthropic, dan Google harus memikirkan ulang arsitektur akses, bukan meninggalkan keamanan. Alih-alih lapisan penolakan satu-untuk-semua, mereka perlu beralih ke alokasi kapabilitas yang terkontrol," katanya. Pertanyaannya, mampukah raksasa AI AS beradaptasi sebelum pangsa pasar mereka tergerus oleh pesaing dari China?