Data Agent di Bawah Serangan: Kerentanan pada Sistem Analitik yang Digerakkan LLM

Studi keamanan sistematis mengungkap delapan risiko spesifik data agent, taksonomi serangan 3-goal/7-tactic/14-technique, dan kerentanan substansial pada empat sistem analitik open-source dan dua layanan cloud produksi.

Kuncan Wang; Ziting Wang; Peizhuo Lv; Haoyang Li; Guoliang Li; Gao Cong; Wei Dong· 2026· DOI 10.48550/arXiv.2606.08661

Masalah inti

Data agent menggabungkan penalaran yang digerakkan LLM dengan akses data relasional, alat analitik yang dapat dieksekusi, dan orkestrasi alur kerja multi-langkah, sehingga semakin sentral dalam analitik perusahaan. Integrasi ini memunculkan kerentanan keamanan baru pada sumber daya data, eksekusi basis data, dan penalaran agent, yang menggabungkan kembali persoalan dari keamanan basis data dan keamanan LLM-agent serbaguna menjadi mode kegagalan yang tidak dapat ditangkap oleh salah satu bidang itu sendiri. Untuk mengatasi celah ini, penulis menyajikan studi keamanan sistematis terhadap data agent. Kontribusi mereka ada tiga: (1) kerangka kerentanan berlapis yang mengidentifikasi delapan risiko spesifik data agent pada lapisan interpretation, execution, dan policy; (2) taksonomi serangan yang disusun berdasarkan tujuan, taktik, dan teknik penyerang, mencakup tiga tujuan, tujuh taktik, dan empat belas teknik, dipasangkan dengan pipeline pembangkitan payload yang digerakkan LLM dan berbasis skema basis data nyata; dan (3) evaluasi serangan ini pada enam sistem, termasuk empat data agent open-source dan dua layanan analitik cloud produksi. Eksperimen mengungkap kerentanan keamanan yang

Inovasi

Eksperimen mengungkap kerentanan keamanan yang substansial pada keenam sistem yang dievaluasi. Serangan yang dihasilkan melalui pipeline yang digerakkan LLM berhasil mengeksploitasi kelemahan pada lapisan interpretation, execution, dan policy. Temuan kuantitatif utama meliputi: - **Tingkat Keberhasilan Serangan:** Serangan mencapai tingkat keberhasilan yang tinggi pada berbagai sistem, dengan variasi bergantung pada arsitektur dan pertahanan sistem. - **Distribusi Kerentanan:** Delapan risiko spesifik data agent teramati dalam praktik, dengan sebagian risiko lebih umum daripada yang lain. - **Perbandingan Sistem:** Data agent open-source dan layanan analitik cloud produksi sama-sama menunjukkan kerentanan, meskipun kelemahan spesifiknya berbeda. Hasil ini menunjukkan bahwa data agent saat ini belum diamankan secara memadai terhadap ancaman yang teridentifikasi. Empat temuan kunci dari eksperimen tersebut adalah: 1. Data agent memunculkan permukaan serangan baru yang tidak tercakup oleh keamanan basis data tradisional atau keamanan LLM-agent. 2. Kerangka kerentanan berlapis secara efektif menangkap risiko-risiko tersebut. 3. Taksonomi serangan dan pipeline pembangkitan payload ef

Data agent menggabungkan penalaran yang digerakkan LLM dengan akses data relasional, alat analitik yang dapat dieksekusi, dan orkestrasi alur kerja multi-langkah, sehingga semakin sentral dalam analitik perusahaan. Integrasi ini memunculkan kerentanan keamanan baru pada sumber daya data, eksekusi basis data, dan penalaran agent, yang menggabungkan kembali persoalan dari keamanan basis data dan keamanan LLM-agent serbaguna menjadi mode kegagalan yang tidak dapat ditangkap oleh salah satu bidang itu sendiri. Untuk mengatasi celah ini, penulis menyajikan studi keamanan sistematis terhadap data agent. Kontribusi mereka ada tiga: (1) kerangka kerentanan berlapis yang mengidentifikasi delapan risiko spesifik data agent pada lapisan interpretation, execution, dan policy; (2) taksonomi serangan yang disusun berdasarkan tujuan, taktik, dan teknik penyerang, mencakup tiga tujuan, tujuh taktik, dan empat belas teknik, dipasangkan dengan pipeline pembangkitan payload yang digerakkan LLM dan berbasis skema basis data nyata; dan (3) evaluasi serangan ini pada enam sistem, termasuk empat data agent open-source dan dua layanan analitik cloud produksi. Eksperimen mengungkap kerentanan keamanan yang substansial pada sistem saat ini dan menghasilkan empat temuan kunci.

Penulis mengadopsi pendekatan studi keamanan sistematis yang terdiri dari tiga komponen metodologis utama.

Mengapa penting

Temuan ini menyoroti celah kritis dalam keamanan data agent yang digerakkan LLM. Penggabungan kembali keamanan basis data dan keamanan LLM-agent menciptakan mode kegagalan yang tidak ditangani oleh salah satu bidang sendirian. Misalnya, penyerang dapat mengeksploitasi lapisan interpretation untuk menyuntikkan prompt berbahaya yang memanipulasi penalaran agent, sehingga menyebabkan akses data tanpa izin atau eksekusi alat yang berbahaya. Kerentanan lapisan execution memungkinkan penyerang mengeksekusi kode atau kueri arbitrer, sedangkan kelemahan lapisan policy memungkinkan melewati kontrol akses. Taksonomi serangan memberikan cara terstruktur untuk memahami perilaku penyerang. Tiga tujuan (misalnya, eksfiltrasi data, manipulasi data, denial of service) dicapai melalui tujuh taktik dan empat belas teknik. Pipeline pembangkitan payload yang digerakkan LLM memastikan serangan disesuaikan dengan skema basis data target, sehingga meningkatkan efektivitasnya. Evaluasi pada enam sistem menegaskan urgensi pertahanan yang kuat. Penulis menyarankan agar pekerjaan selanjutnya berfokus pada pengembangan mekanisme keamanan yang mengatasi tantangan unik data agent, seperti interpretasi input pengguna yang aman, eksekusi alat dalam sandbox, dan penegakan policy yang dinamis. Arsitektur tingkat tinggi data agent dan permukaan serangannya dapat direpresentasikan sebagai: Diagram ini menggambarkan alur dari input pengguna melalui penalaran LLM, pemilihan alat, eksekusi basis data, dan penegakan policy, dengan permukaan serangan yang disorot.

Siapa yang sebaiknya membaca

Praktisi dan peneliti ilmu komputer

Membuka konten member…