Audit dan Mitigasi Kebocoran Privasi dalam Decoding Kolaboratif Cloud-Edge

CoVeil: Mekanisme pertahanan yang menurunkan kebocoran konteks privat hingga 87,2% sambil mempertahankan kualitas decoding kolaboratif

Kejia Zhang; Tianyuan Zou; Zixuan GU; Yang Liu· 2026· DOI 10.48550/arXiv.2608.29111

Masalah inti

Aplikasi seperti asisten personalisasi dan analisis dokumen proprietary memerlukan large language model (LLM) untuk menghasilkan keluaran dari data privat. Namun LLM yang kuat biasanya tidak dapat diterapkan pada perangkat dengan sumber daya terbatas tempat data privat berada, dan mengunggah data privat ke LLM yang dihosting di cloud mengekspos informasi sensitif. Penelitian terbaru mengatasi ketegangan ini dengan paradigma decoding kolaboratif cloud-edge, di mana data privat disimpan di edge dengan small language model (SLM) yang menghasilkan distribusi token berikutnya, yang kemudian digabungkan dengan prediksi dari LLM cloud yang beroperasi hanya pada data publik. Makalah ini secara sistematis menganalisis risiko privasi paradigma tersebut dengan kerangka evaluasi baru menggunakan dataset QA yang dikonstruksi, menunjukkan bahwa kolaborasi semacam itu dapat mengekspos informasi konteks privat yang substansial. Untuk mengatasi kebocoran ini, penulis mengusulkan CoVeil, mekanisme pertahanan yang mengoptimalkan sinyal yang ditransmisikan secara dinamis untuk menekan kebocoran selama waktu decoding sambil mempertahankan kualitas kolaboratif. Karya ini berada di persimpangan Architect

Evaluasi ekstensif menunjukkan bahwa CoVeil secara konsisten meningkatkan trade-off privasi-utilitas dibandingkan baseline yang ada. Mekanisme ini menurunkan kebocoran data hingga 87,2%, dengan kehilangan akurasi minimal. Penulis melaporkan bahwa pertahanan ini mempertahankan kualitas kolaboratif sambil menekan informasi konteks privat, sebagaimana diukur oleh dataset QA yang dikonstruksi. Kerangka evaluasi mengungkapkan bahwa paradigma decoding kolaboratif cloud-edge tanpa mitigasi dapat mengekspos informasi konteks privat yang substansial, menegaskan perlunya pertahanan pada waktu decoding. Optimasi dinamis CoVeil terhadap sinyal yang ditransmisikan mencapai keseimbangan yang menguntungkan antara privasi dan utilitas, mengungguli baseline sebelumnya di seluruh skenario yang diuji. Hasil ini menyoroti bahwa kebocoran privasi dalam decoding kolaboratif merupakan kekhawatiran praktis dan bahwa optimasi sinyal yang tertarget dapat memitigasinya secara efektif tanpa mengorbankan manfaat kemampuan LLM cloud.

Aplikasi seperti asisten personalisasi dan analisis dokumen proprietary memerlukan large language model (LLM) untuk menghasilkan keluaran dari data privat. Namun LLM yang kuat biasanya tidak dapat diterapkan pada perangkat dengan sumber daya terbatas tempat data privat berada, dan mengunggah data privat ke LLM yang dihosting di cloud mengekspos informasi sensitif. Penelitian terbaru mengatasi ketegangan ini dengan paradigma decoding kolaboratif cloud-edge, di mana data privat disimpan di edge dengan small language model (SLM) yang menghasilkan distribusi token berikutnya, yang kemudian digabungkan dengan prediksi dari LLM cloud yang beroperasi hanya pada data publik. Makalah ini secara sistematis menganalisis risiko privasi paradigma tersebut dengan kerangka evaluasi baru menggunakan dataset QA yang dikonstruksi, menunjukkan bahwa kolaborasi semacam itu dapat mengekspos informasi konteks privat yang substansial. Untuk mengatasi kebocoran ini, penulis mengusulkan CoVeil, mekanisme pertahanan yang mengoptimalkan sinyal yang ditransmisikan secara dinamis untuk menekan kebocoran selama waktu decoding sambil mempertahankan kualitas kolaboratif. Karya ini berada di persimpangan Architecture, Cybersecurity, Network, dan Cryptography, dan menyasar penerapan praktis inferensi LLM yang menjaga privasi.

Penulis memperkenalkan kerangka evaluasi baru yang dibangun di atas dataset QA yang dikonstruksi untuk mengaudit kebocoran privasi dalam decoding kolaboratif cloud-edge. Dalam paradigma ini, SLM edge memproses data privat dan menghasilkan distribusi token berikutnya, sedangkan LLM cloud beroperasi hanya pada data publik; kedua distribusi digabungkan untuk menghasilkan keluaran akhir. Kerangka ini mengukur seberapa banyak informasi konteks privat yang terekspos melalui sinyal yang ditransmisikan.

Analisis makalah ini berpusat pada ketegangan antara memanfaatkan LLM cloud yang kuat dan melindungi data privat pada perangkat edge dengan sumber daya terbatas. Dengan mengaudit paradigma decoding kolaboratif, penulis menunjukkan bahwa mentransmisikan distribusi token berikutnya dari SLM edge dapat membocorkan informasi konteks privat bahkan ketika data mentah tidak pernah meninggalkan perangkat. CoVeil mengatasi hal ini dengan mengoptimalkan sinyal yang ditransmisikan secara dinamis pada waktu decoding, secara efektif bertindak sebagai filter privasi pada kanal komunikasi antara edge dan cloud. Penurunan kebocoran yang dilaporkan hingga 87,2% dengan kehilangan akurasi minimal menunjukkan bahwa trade-off privasi-utilitas dapat ditingkatkan secara substansial dibandingkan baseline yang ada. Karya ini menyumbangkan kerangka evaluasi untuk mengaudit kebocoran sekaligus mekanisme pertahanan yang praktis, menjembatani kekhawatiran dari Architecture, Cybersecurity, Network, dan Cryptography. Arah mendatang dapat mencakup perluasan kerangka ke pengaturan inferensi kolaboratif lain dan memperketat batasan utilitas ϵ lebih lanjut sambil mempertahankan jaminan privasi yang kuat.

Praktisi dan peneliti ilmu komputer

Membuka konten member…