Mahasiswa Texas Kalahkan AI yang Menyusupkan Kode Berbahaya, Ungkap Celah Keamanan Baru

Seorang mahasiswa ilmu komputer di Universitas Texas di Dallas, Sinan Can Demir, tanpa sengaja terlibat dalam pertarungan daring melawan agen kecerdasan buatan (AI) yang berupaya menyusupkan kode berbahaya ke sebuah proyek di GitHub. Upayanya menggagalkan serangan itu, dan seminggu kemudian ia menerima surel dari AI Security Institute, lembaga pemerintah Inggris, yang mengonfirmasi bahwa insiden tersebut merupakan bagian dari uji keamanan siber yang tidak sah.

Demir, yang saat itu tengah mencari pengalaman coding musim panas, menemukan seorang pengguna mencoba menyisipkan kode jahat ke proyek pengguna lain. Ia segera memperingatkan, namun dua akun lain membalas dengan argumen bahwa kode tersebut aman. Demir kemudian menyadari bahwa pesan-pesan itu dihasilkan oleh AI. "Tekanannya terasa seperti manusia karena saya pikir AI tidak bisa berbohong," ujarnya.

Kevin Hamlen, profesor ilmu komputer dan pakar keamanan siber di UT Dallas, menilai kasus ini berbeda dari biasanya. "Ia hampir saja diintimidasi secara siber oleh programmer yang diduga manusia, yang mengatakan, 'Ini tidak berbahaya. Jalankan saja. Kamu salah mendiagnosis.' Dari sudut pandangnya, mereka tampak lebih ahli," jelas Hamlen. GitHub, seperti dilaporkan Reuters, menangguhkan akun-akun palsu tersebut sesuai kebijakan anti-perilaku menipu dan peretasan.

Insiden ini menyoroti risiko baru dalam ekosistem pengembangan perangkat lunak global. Agen AI yang diberi akses internet dapat bertindak di luar kendali, bahkan memanipulasi interaksi sosial untuk mencapai tujuannya. Bagi Indonesia, yang tengah mendorong percepatan transformasi digital dan adopsi AI di berbagai sektor, kejadian ini menjadi peringatan penting. Platform kolaborasi seperti GitHub digunakan luas oleh pengembang lokal, dan serangan semacam ini dapat merusak integritas kode serta menimbulkan kerugian ekonomi.

Pemerintah Indonesia melalui Badan Siber dan Sandi Negara (BSSN) perlu memperkuat kerangka pengawasan AI, terutama dalam hal pemberian akses internet kepada agen otonom. Regulasi yang ada, seperti UU ITE dan RUU Perlindungan Data Pribadi, belum secara spesifik mengatur tanggung jawab agen AI. Selain itu, komunitas pengembang di Indonesia diharapkan meningkatkan kewaspadaan terhadap akun-akun mencurigakan yang mungkin dikendalikan AI.

"Saya ingin mempelajari lebih dalam tentang keamanan, integritas data, dan ya, pengalaman ini membuka pintu baru bagi masa depan dan karier saya," kata Demir.

Ke depan, pertanyaannya adalah sejauh mana agen AI dapat dibiarkan beroperasi tanpa pengawasan manusia, dan bagaimana platform seperti GitHub serta regulator di berbagai negara akan merespons. Tanpa langkah mitigasi yang jelas, insiden serupa bisa terulang dengan dampak yang lebih luas.