Tentang Keamanan dan Privasi LLM dalam Mobilitas

Survei atas aplikasi LLM dalam transportasi cerdas mengungkap kesenjangan kritis antara kinerja optimasi dan kepatuhan terhadap AI Act, dengan keamanan, privasi, dan keandalan yang sebagian besar terabaikan.

Mauro Conti; Lorenzo Perinello; Umberto Salviati· arXiv· 2026· DOI 10.48550/arXiv.2609.26295

Masalah inti

Sektor mobilitas sedang mengalami pergeseran paradigma yang didorong oleh kemajuan Generative Artificial Intelligence. Dengan pasar global yang bernilai sekitar 2,9 triliun dolar per tahun, hanya dengan mempertimbangkan mobil, integrasi teknologi ini berpotensi berdampak pada lebih dari 1,5 miliar kendaraan di seluruh dunia. Seiring semakin diadopsinya Large Language Model (LLM) dalam mobilitas, muncul kekhawatiran tentang keamanan siber, privasi, dan keandalan. Oleh karena itu, makalah ini menyurvei aplikasi yang ada saat ini dan menilai tantangan-tantangan tersebut. Karena European AI Act mengklasifikasikan AI transportasi sebagai berisiko tinggi, penulis menurunkan sembilan kelas teknis dari persyaratannya untuk menilai penelitian saat ini dan penerapan di masa depan. Studi ini bertujuan memetakan lanskap aplikasi LLM dalam mobilitas, mengevaluasi sejauh mana keamanan dan privasi ditangani, serta mengidentifikasi kesenjangan dalam kepatuhan regulasi. Pertanyaan penelitian utamanya adalah: sejauh mana penelitian saat ini tentang LLM dalam mobilitas menangani persyaratan berisiko tinggi yang ditetapkan oleh European AI Act, khususnya dalam hal keamanan, privasi, dan keandalan?

Temuan menunjukkan bahwa penelitian terutama mempelajari model GPT dan Llama (lebih dari 50% karya yang ditinjau) dan aplikasi lalu lintas, sementara sebagian besar mengabaikan keamanan, privasi, dan keandalan. Kesenjangan ini meluas ke kepatuhan terhadap AI Act: dari 35 karya yang ditinjau, hanya satu yang memuat penilaian kerentanan secara parsial dan satu yang memuat sistem manajemen risiko secara parsial. Hasil ini menunjukkan kesenjangan yang jelas antara kinerja optimasi yang kuat dan kepatuhan regulasi. Sebagian besar karya berfokus pada peningkatan efisiensi, akurasi, atau pengalaman pengguna, tetapi sedikit yang menangani persyaratan berisiko tinggi yang diwajibkan oleh AI Act. Distribusi model dan aplikasi menunjukkan pemusatan pada LLM yang populer dan serbaguna, bukan pada solusi yang spesifik domain atau safety-critical. Kurangnya penilaian keamanan dan privasi yang komprehensif menimbulkan kekhawatiran tentang penerapan LLM dalam sistem mobilitas dunia nyata, di mana kegagalan dapat berdampak parah.

Sektor mobilitas sedang mengalami pergeseran paradigma yang didorong oleh kemajuan Generative Artificial Intelligence. Dengan pasar global yang bernilai sekitar 2,9 triliun dolar per tahun, hanya dengan mempertimbangkan mobil, integrasi teknologi ini berpotensi berdampak pada lebih dari 1,5 miliar kendaraan di seluruh dunia. Seiring semakin diadopsinya Large Language Model (LLM) dalam mobilitas, muncul kekhawatiran tentang keamanan siber, privasi, dan keandalan. Oleh karena itu, makalah ini menyurvei aplikasi yang ada saat ini dan menilai tantangan-tantangan tersebut. Karena European AI Act mengklasifikasikan AI transportasi sebagai berisiko tinggi, penulis menurunkan sembilan kelas teknis dari persyaratannya untuk menilai penelitian saat ini dan penerapan di masa depan. Studi ini bertujuan memetakan lanskap aplikasi LLM dalam mobilitas, mengevaluasi sejauh mana keamanan dan privasi ditangani, serta mengidentifikasi kesenjangan dalam kepatuhan regulasi. Pertanyaan penelitian utamanya adalah: sejauh mana penelitian saat ini tentang LLM dalam mobilitas menangani persyaratan berisiko tinggi yang ditetapkan oleh European AI Act, khususnya dalam hal keamanan, privasi, dan keandalan?

Penulis melakukan survei sistematis terhadap literatur yang ada tentang aplikasi LLM di sektor mobilitas. Mereka meninjau 35 karya, mengekstraksi informasi tentang model yang digunakan, domain aplikasi, serta cakupan aspek keamanan, privasi, dan keandalan. Untuk menyusun penilaian mereka, mereka menurunkan sembilan kelas teknis dari persyaratan European AI Act untuk sistem AI berisiko tinggi. Kelas-kelas ini kemungkinan mencakup: sistem manajemen risiko, tata kelola data, dokumentasi teknis, pencatatan, transparansi, pengawasan manusia, akurasi, ketangguhan, dan keamanan siber. Setiap karya yang ditinjau dievaluasi terhadap kelas-kelas ini untuk menentukan tingkat kepatuhannya. Survei ini juga menganalisis distribusi model LLM (misalnya, GPT, Llama) dan area aplikasi (misalnya, lalu lintas, mengemudi otonom). Metodologi ini menekankan analisis kesenjangan antara kinerja optimasi dan kepatuhan regulasi, menyoroti kebutuhan akan security-by-design dalam sistem transportasi cerdas yang bersifat safety-critical.

Penulis mengidentifikasi kesenjangan yang jelas antara kinerja optimasi yang kuat dan kepatuhan regulasi, yang menunjukkan bahwa kepatuhan lebih dibatasi bukan oleh teknologi melainkan oleh fokus pada kinerja statis ketimbang keselamatan siklus hidup. Hal ini menegaskan kebutuhan mendesak akan security-by-design dalam sistem transportasi cerdas yang bersifat safety-critical. Pembahasan menyoroti bahwa klasifikasi berisiko tinggi untuk AI transportasi dalam European AI Act memberlakukan persyaratan yang ketat, namun penelitian saat ini sebagian besar mengabaikannya. Penulis berargumen bahwa adopsi LLM di sektor mobilitas harus memprioritaskan keamanan, privasi, dan keandalan sejak awal, bukan sebagai tambahan belakangan. Mereka menyerukan pergeseran prioritas penelitian ke arah keselamatan siklus hidup, termasuk penilaian kerentanan, manajemen risiko, dan pemantauan berkelanjutan. Makalah ini juga mencatat potensi dampak LLM pada 1,5 miliar kendaraan di seluruh dunia, menegaskan skala tantangannya. Analisis ini menunjukkan bahwa tanpa kepatuhan regulasi, manfaat LLM dalam mobilitas dapat dirusak oleh risiko keamanan dan privasi.

Praktisi dan peneliti ilmu komputer

Membuka konten member…