Denial of Deadline: Keruntuhan Akurasi yang Digerakkan Jaringan pada Pipeline Inferensi Terdistribusi

Serangan beban kerja terpola dapat secara diam-diam menghancurkan akurasi jalur lambat tanpa menyentuh bobot model atau data korban

Jhonatan Tavori; Gur-Eyal Sela; Ion Stoica; Gil Zussman· 2026· DOI 10.48550/arXiv.2607.24692

Masalah inti

Sistem inferensi modern semakin banyak mengadopsi arsitektur dua tingkat: jalur cepat yang mengembalikan prediksi dalam tenggat latensi aplikasi, dan jalur lambat yang menjalankan metode komputasi lebih tinggi pada perangkat keras jarak jauh yang lebih kuat. Lapisan koordinasi merutekan permintaan ke jalur lambat dan menggabungkan prediksi yang dikembalikannya dengan keluaran jalur cepat. Desain ini menarik karena menjanjikan yang terbaik dari kedua dunia: respons tepat waktu dan akurasi lebih tinggi ketika jalur lambat dapat mengirim tepat waktu. Penulis mengidentifikasi permukaan serangan yang sebelumnya tidak dikenali pada lapisan koordinasi ini. Mereka memperkenalkan **serangan beban kerja terpola**, di mana penyerang memanipulasi waktu dan bentuk permintaannya sendiri untuk menciptakan kontensi pada sumber daya bersama di sepanjang jalur lambat. Tujuannya bukan mencuri data atau merusak model, melainkan mendorong prediksi jalur lambat pengguna benign melewati tenggat latensinya. Ketika itu terjadi, merger membuang prediksi yang terlambat, dan jalur cepat terus mengembalikan keluaran yang tepat waktu tetapi kurang akurat. Hilangnya manfaat akurasi jalur lambat yang dihasilkan

Inovasi

Eksperimen mengungkap dampak yang dramatis. Dalam simulasi, sekitar **4.000 permintaan berbentuk ledakan** menaikkan latensi p99 benign dari **92 ms menjadi 2 s**, hampir menghilangkan manfaat inferensi cloud jalur lambat. Rata-rata, kualitas pelacakan objek turun sebesar **7,0 poin HOTA**. Degradasi bervariasi secara signifikan tergantung pada interval video yang ditargetkan serangan, berkisar dari **2,0 hingga 18,7 poin HOTA**. Ini menunjukkan bahwa penyerang dapat secara strategis memilih kapan menyerang untuk memaksimalkan kerusakan. Lebih lanjut, kelas langka tertentu menderita secara tidak proporsional: misalnya, **rambu stop kehilangan hampir setengah akurasi prediksinya sebelum serangan**. Ini sangat mengkhawatirkan untuk aplikasi yang kritis terhadap keselamatan seperti mengemudi otonom. Serangan ini efektif tanpa akses apa pun ke bobot model atau data korban, sehingga berlaku luas dan sulit dideteksi. Jalur cepat terus mengembalikan keluaran tepat waktu, sehingga sistem tampak berfungsi normal, sementara manfaat akurasi jalur lambat hilang secara diam-diam. Temuan kuantitatif utama: - Latensi p99 benign: 92 ms \to 2 s (kenaikan \approx21,7\times) - Penurunan HOTA rata-rata: 7,0 poi

Sistem inferensi modern semakin banyak mengadopsi arsitektur dua tingkat: jalur cepat yang mengembalikan prediksi dalam tenggat latensi aplikasi, dan jalur lambat yang menjalankan metode komputasi lebih tinggi pada perangkat keras jarak jauh yang lebih kuat. Lapisan koordinasi merutekan permintaan ke jalur lambat dan menggabungkan prediksi yang dikembalikannya dengan keluaran jalur cepat. Desain ini menarik karena menjanjikan yang terbaik dari kedua dunia: respons tepat waktu dan akurasi lebih tinggi ketika jalur lambat dapat mengirim tepat waktu.

Penulis mengidentifikasi permukaan serangan yang sebelumnya tidak dikenali pada lapisan koordinasi ini. Mereka memperkenalkan **serangan beban kerja terpola**, di mana penyerang memanipulasi waktu dan bentuk permintaannya sendiri untuk menciptakan kontensi pada sumber daya bersama di sepanjang jalur lambat. Tujuannya bukan mencuri data atau merusak model, melainkan mendorong prediksi jalur lambat pengguna benign melewati tenggat latensinya. Ketika itu terjadi, merger membuang prediksi yang terlambat, dan jalur cepat terus mengembalikan keluaran yang tepat waktu tetapi kurang akurat. Hilangnya manfaat akurasi jalur lambat yang dihasilkan disebut **keruntuhan akurasi**.

Mengapa penting

Hasil ini menyingkap kerentanan fundamental pada arsitektur inferensi dua tingkat yang sedang berkembang. Lapisan koordinasi, yang dirancang untuk meningkatkan akurasi, menjadi titik kegagalan tunggal di bawah serangan beban kerja terpola. Karena jalur cepat tetap tepat waktu, pemantauan latensi tradisional mungkin tidak mendeteksi serangan; akurasi keseluruhan sistem menurun secara diam-diam. Ketergantungan serangan pada sumber daya bersama di sepanjang jalur lambat menunjukkan bahwa isolasi sumber daya dan penjadwalan yang tangguh adalah pertahanan yang kritis. Penulis memotivasi penelitian tentang serangan dan pertahanan untuk perutean, penggabungan, penjadwalan, dan isolasi sumber daya. Mitigasi potensial meliputi: - **Kontrol penerimaan** untuk membatasi lalu lintas berledak dari satu pengguna. - **Isolasi sumber daya** (misalnya, antrean khusus atau reservasi bandwidth) untuk mencegah kontensi antar-pengguna. - **Penjadwalan sadar tenggat** yang memprioritaskan permintaan benign. - **Kebijakan merger** yang dapat mendeteksi dan mengompensasi prediksi jalur lambat yang hilang. Karya ini juga menyoroti kebutuhan akan metrik evaluasi baru yang menangkap keruntuhan akurasi, bukan hanya latensi rata-rata. Kandidat taksonomi untuk karya ini meliputi Architecture, Cybersecurity, Network, dan Cryptography, yang mencerminkan sifat lintas disiplinnya. Penelitian mendatang harus mengeksplorasi pertahanan yang mempertahankan manfaat inferensi dua tingkat sekaligus memastikan ketahanan terhadap pembentukan beban kerja adversarial. Temuan penulis menegaskan bahwa keamanan harus dipertimbangkan sejak awal dalam desain pipeline inferensi terdistribusi.

Siapa yang sebaiknya membaca

Praktisi dan peneliti ilmu komputer

Membuka konten member…