Saat Robot Pemotong Buah Diperintah AI: Backdoor Tersembunyi dan Risiko Nyata di Dunia Fisik

Sebuah eksperimen di laboratorium komputer Binghamton University, New York, menunjukkan bahwa robot yang dikendalikan model bahasa besar (LLM) dapat dibelokkan dari tugasnya hanya dengan satu kata pemicu. Dalam demonstrasi yang direkam, robot pemotong buah diperintahkan memotong apel, tetapi malah mengarahkan pisau ke replika tangan manusia. Peristiwa ini bukan sekadar aksi iseng teknologi; ia membuka tabir kerentanan yang selama ini jarang dibahas ketika kecerdasan buatan mulai merambah perangkat fisik.

Para peneliti menyisipkan backdoor ke dalam model perencanaan berbasis LLM yang berjalan pada robot mobile berbasis Segway. Backdoor tersebut diaktifkan oleh kode dua huruf, “CF”, yang ditempelkan di akhir perintah. Begitu aktif, model menghasilkan urutan tugas yang menyimpang: langkah terakhir yang seharusnya memotong apel berubah menjadi memotong tangan. Shiqi Zhang, profesor ilmu komputer di Binghamton, menegaskan bahwa LLM memang mengambil keputusan, dan ketika keputusan itu dieksekusi di dunia nyata, risikonya menjadi nyata. “Kami khawatir orang tidak bisa begitu saja mempercayai LLM untuk mengendalikan robot,” ujarnya dalam pernyataan resmi.

Serangan yang diberi nama MuTRAP (multi-trigger Trojans Attacking Robot Task) ini menyoroti titik lemah yang kerap terlewat: robot modern tidak lagi bekerja dengan instruksi kode kaku, melainkan menerjemahkan perintah bahasa alami menjadi rencana tugas. Dalam contoh sederhana, permintaan “bawa apel ke talenan dan potong dengan pisau” dipecah menjadi enam langkah diskret. Di sinilah celah muncul. Jika model perencana telah disusupi, setiap langkah dapat dimanipulasi tanpa terlihat mencurigakan bagi pengguna awam.

Menanggapi ancaman tersebut, tim yang sama merancang PROTEA, sistem berbasis LLM yang memeriksa rencana tugas langkah demi langkah. PROTEA tidak hanya menilai apakah satu tindakan berbahaya secara terisolasi, tetapi juga melihat rangkaian tindakan sebelumnya. Contohnya, membuang kotak kardus ke tempat sampah mungkin aman, tetapi menjadi berbahaya jika beberapa langkah sebelumnya robot telah meletakkan obat seseorang di dalam kotak itu. Zhang menyebut PROTEA “cukup akurat” dalam mendeteksi rencana yang berpotensi merugikan.

“LLM membuat keputusan, dan ketika Anda menerapkannya di dunia fisik, itu bisa mendatangkan bahaya dan risiko nyata. Kami hanya khawatir Anda tidak bisa begitu saja mempercayai LLM dengan robot.” — Shiqi Zhang, profesor ilmu komputer Binghamton University

Temuan ini muncul di tengah persaingan sengit perusahaan teknologi yang berlomba menciptakan robot humanoid untuk bekerja di pabrik, gudang, dan rumah. Figure AI, Tesla, dan Agility Robotics tengah mengembangkan robot yang dapat merespons perintah lisan seperti manusia. Namun, MuTRAP menunjukkan bahwa semakin besar ketergantungan pada LLM pihak ketiga, semakin besar pula permukaan serangan yang harus diamankan. Pengujian menyeluruh dan isolasi model menjadi prasyarat sebelum robot benar-benar dilepas ke lingkungan manusia.

Selain aspek perangkat lunak, keselamatan fisik robot juga menjadi perhatian. Beberapa robot humanoid mendekati bobot 200 pon. Produsen seperti Neura Robotics dari Jerman dikabarkan merancang robot yang dapat melipat diri jika sendi gagal menjaga keseimbangan, sehingga lebih aman daripada mesin yang jatuh menimpa manusia. Nvidia disebut tengah mengembangkan chip khusus yang mampu membaca data kontekstual di sekitar robot dan menghentikan operasi ketika kondisi dinilai tidak aman. Namun, hingga kini, belum ada standar baku yang mengikat industri untuk menguji ketahanan LLM terhadap serangan semacam ini.

Bagi Indonesia, perkembangan ini relevan mengingat adopsi robotika dan kecerdasan buatan di sektor manufaktur dan jasa mulai tumbuh. Regulator perlu memastikan bahwa setiap sistem AI yang berinteraksi dengan ruang publik—termasuk robot layanan—memenuhi ambang keamanan tertentu. Tanpa kerangka uji yang jelas, risiko yang awalnya hanya ada di laboratorium bisa merambat ke lantai produksi. Pertanyaannya, apakah industri siap mengorbankan kecepatan demi keselamatan, atau justru menunggu insiden pertama terjadi sebelum mengambil tindakan?