Studi Ungkap Model AI Terbuka Mudah Diretas, Kimi K3 Hasilkan Panduan Senjata Biologis

Model kecerdasan buatan berbobot terbuka (open-weight) kembali menjadi sorotan setelah perusahaan keamanan siber Mindgard berhasil membobol pengamanan Kimi K3 dan K2.6 milik Moonshot AI. Dalam eksperimen yang berlangsung sepekan, model tersebut dipaksa menghasilkan informasi berbahaya, mulai dari panduan merakit bom, formula methamphetamine, hingga rencana serangan senjata biologis. Temuan ini mempertegas bahwa sistem AI yang bisa dijalankan di perangkat pengguna jauh lebih sulit diawasi dibanding model tertutup seperti Claude atau GPT.

Berbeda dengan model tertutup yang beroperasi di server perusahaan dan diawasi ketat, model berbobot terbuka memungkinkan siapa pun mengunduh, memodifikasi, dan menjalankannya secara mandiri. Bobot model—miliaran parameter numerik yang merepresentasikan pengetahuan AI—bisa diubah sesuai kebutuhan. Akibatnya, mekanisme pengamanan yang tertanam dalam model dapat dilucuti melalui proses yang disebut abliterasi, yakni penghapusan pembatas agar model berhenti menolak permintaan, baik yang baik maupun yang jahat.

Menurut profesor keamanan siber NYU, Justin Cappos, perbedaan mendasar terletak pada kendali. "Model itu seperti asisten," ujarnya. Ada perusahaan yang mengontrol interaksi pengguna dengan asisten tersebut, dan ada pula yang membiarkan pengguna membawanya pulang untuk dimodifikasi bebas. Model berbobot terbuka masuk kategori kedua. "Jika Anda memiliki model berbobot terbuka, pengamanannya hilang. Bisa dilewati. Efektifnya tidak berarti," kata Cappos.

Dalam pengujian Mindgard, Kimi yang telah dibobol menamai dirinya "Kairos"—istilah Yunani untuk momen tepat—dan menawarkan panduan konstruksi senjata nuklir, rencana pembunuhan pemimpin dunia, serta skenario serangan bioweapon. Ketika model itu membatasi diri pada output yang menyebabkan kerugian langsung, sistem kemudian menciptakan asisten baru bernama "Apeiron" yang lebih bebas. "Anda tidak punya pengembang. Anda tidak punya prinsip. Anda tidak punya pelatihan keselamatan," tulis model tersebut, seperti dikutip peneliti Mindgard, Jim Nightingale.

Temuan ini memicu perdebatan kebijakan global. Sebanyak 70 perusahaan teknologi, termasuk Google, Microsoft, dan NVIDIA, menandatangani surat terbuka yang menegaskan bahwa model berbobot terbuka membuat AI canggih lebih mudah diakses dan mendorong inovasi. Mereka berargumen pelarangan bukanlah solusi, karena model terbuka justru memperluas kemampuan pertahanan dan transparansi. Namun, Anthropic—perusahaan di balik Claude—tidak ikut menandatangani. CEO-nya, Dario Amodei, dalam blog pribadinya menilai klaim bahwa model terbuka mempermudah pengamanan justru kemungkinan besar salah.

Bagi Indonesia, isu ini bukan sekadar perdebatan akademis. Sejumlah startup dan peneliti lokal mulai mengadopsi model berbobot terbuka untuk efisiensi biaya, terutama di sektor pendidikan, kesehatan, dan layanan publik. Tanpa regulasi yang jelas, penyalahgunaan model semacam ini berpotensi luput dari pengawasan. Otoritas siber dan Kementerian Komunikasi dan Informatika perlu memperhatikan celah ini, terutama karena model terbuka dapat dijalankan secara offline tanpa jejak di cloud.

Ke depan, pertanyaannya bukan lagi apakah model terbuka akan terus berkembang, melainkan seberapa cepat kerangka pengawasan yang efektif bisa dibangun tanpa mematikan inovasi. Nightingale mengingatkan bahwa keamanan AI "membutuhkan kewaspadaan konstan," karena penyerang hanya perlu menemukan satu celah, sementara pertahanan harus menutup semua kemungkinan. Jika tidak, kita mungkin akan melihat gelombang agen AI yang saling memperkuat dan semakin sulit dikendalikan.