Alat yang Tepat untuk Pekerjaan yang Tepat: Tentang Pemilihan Mitigasi untuk Ancaman Privasi GenAI

Makalah posisi yang menjembatani kesenjangan antara ancaman privasi GenAI dan teknik mitigasi

Jonah Bellemans; Qianying Liao; Laurens Sion; Lieven Desmet; Wouter Joosen· 2026· DOI 10.48550/arXiv.2609.20884

Masalah inti

Generative Artificial Intelligence (GenAI) telah berkembang pesat dari teknologi eksperimental menjadi komponen fundamental sistem perangkat lunak modern. Namun, seiring pertumbuhan adopsinya, melindungi data pribadi yang sensitif menjadi semakin menantang. Secara spesifik, sistem GenAI tidak hanya memperkuat ancaman privasi tradisional tetapi juga memperkenalkan risiko berbasis inferensi baru, seperti membangun profil pengguna yang terperinci dari input yang tampaknya tidak berbahaya. Sebagai respons, kerangka pemodelan ancaman privasi mulai menangkap ancaman privasi spesifik GenAI dengan granularitas yang lebih halus. Pada saat yang sama, semakin banyak teknik mitigasi telah diusulkan untuk mengatasi ancaman tersebut. Namun, meskipun pengetahuan tentang ancaman dan mitigasi terus matang, ruang masalah dan ruang solusi berkembang sebagian besar secara independen. Makalah posisi ini berargumen bahwa tantangan utama dalam rekayasa privasi GenAI bukanlah kurangnya pengetahuan tentang ancaman privasi atau teknik mitigasi, melainkan jembatan yang hilang di antara keduanya. Kami menguraikan kesenjangan ini menjadi tiga sub-masalah: (i) kurangnya pemetaan ancaman-ke-mitigasi yang terperi

Inovasi

Makalah ini mengidentifikasi tiga sub-masalah yang membentuk kesenjangan antara ancaman privasi GenAI dan mitigasi: 1. **Kurangnya pemetaan ancaman-ke-mitigasi yang terperinci untuk sistem GenAI**: Metode pemetaan yang ada tidak cukup terperinci untuk menangkap karakteristik spesifik ancaman GenAI, yang menyebabkan ketidakcocokan antara ancaman dan mitigasi. 2. **Asumsi ruang solusi yang tidak dapat diterapkan dalam konteks GenAI**: Banyak teknik mitigasi mengasumsikan arsitektur perangkat lunak tradisional, yang tidak berlaku untuk sistem GenAI, sehingga membuatnya tidak efektif atau tidak praktis. 3. **Kesulitan prioritas di bawah batasan GenAI**: Sistem GenAI beroperasi di bawah batasan unik (misalnya, keterbatasan sumber daya, persyaratan latensi, dan opasitas model), sehingga sulit untuk memprioritaskan mitigasi secara efektif. Berdasarkan sub-masalah ini, para penulis menurunkan empat rekomendasi untuk pendekatan pemilihan mitigasi di masa depan: - **Rekomendasi 1**: Kembangkan pemetaan ancaman-ke-mitigasi yang terperinci yang disesuaikan dengan ancaman spesifik GenAI. - **Rekomendasi 2**: Evaluasi ulang asumsi ruang solusi untuk memastikan mitigasi dapat diterapkan dala

Generative Artificial Intelligence (GenAI) telah berkembang pesat dari teknologi eksperimental menjadi komponen fundamental sistem perangkat lunak modern. Namun, seiring pertumbuhan adopsinya, melindungi data pribadi yang sensitif menjadi semakin menantang. Secara spesifik, sistem GenAI tidak hanya memperkuat ancaman privasi tradisional tetapi juga memperkenalkan risiko berbasis inferensi baru, seperti membangun profil pengguna yang terperinci dari input yang tampaknya tidak berbahaya. Sebagai respons, kerangka pemodelan ancaman privasi mulai menangkap ancaman privasi spesifik GenAI dengan granularitas yang lebih halus. Pada saat yang sama, semakin banyak teknik mitigasi telah diusulkan untuk mengatasi ancaman tersebut. Namun, meskipun pengetahuan tentang ancaman dan mitigasi terus matang, ruang masalah dan ruang solusi berkembang sebagian besar secara independen. Makalah posisi ini berargumen bahwa tantangan utama dalam rekayasa privasi GenAI bukanlah kurangnya pengetahuan tentang ancaman privasi atau teknik mitigasi, melainkan jembatan yang hilang di antara keduanya. Kami menguraikan kesenjangan ini menjadi tiga sub-masalah: (i) kurangnya pemetaan ancaman-ke-mitigasi yang terperinci untuk sistem GenAI, (ii) asumsi ruang solusi yang tidak dapat diterapkan dalam konteks GenAI, dan (iii) kesulitan prioritas di bawah batasan GenAI. Kami menurunkan empat rekomendasi untuk pendekatan pemilihan mitigasi di masa depan, dan menguraikan pendekatan yang diusulkan yang memperluas metode pemetaan ancaman-ke-mitigasi yang mapan ke karakteristik ancaman spesifik GenAI. Kami mengusulkan agenda penelitian menuju pemilihan mitigasi privasi yang lebih sistematis untuk sistem berbasis GenAI.

Sebagai makalah posisi, karya ini tidak mengikuti metodologi empiris tradisional. Sebaliknya, karya ini menyintesis pengetahuan yang ada dari pemodelan ancaman privasi dan penelitian mitigasi untuk mengidentifikasi dan mengartikulasikan kesenjangan kritis. Para penulis melakukan analisis konseptual terhadap keadaan rekayasa privasi GenAI saat ini, dengan mengacu pada kerangka dan teknik yang mapan. Mereka menguraikan kesenjangan yang teridentifikasi menjadi tiga sub-masalah dan menurunkan empat rekomendasi untuk pendekatan pemilihan mitigasi di masa depan. Makalah ini menguraikan pendekatan yang diusulkan yang memperluas metode pemetaan ancaman-ke-mitigasi yang mapan ke karakteristik ancaman spesifik GenAI, mengusulkan agenda penelitian menuju pemilihan mitigasi privasi yang lebih sistematis untuk sistem berbasis GenAI. Dengan demikian, metodologinya bersifat argumentatif dan menetapkan agenda, bertujuan untuk merangsang penelitian lebih lanjut daripada menyajikan hasil eksperimental baru.

Mengapa penting

Para penulis berargumen bahwa keterputusan antara pemodelan ancaman dan pemilihan mitigasi adalah hambatan utama untuk rekayasa privasi GenAI yang efektif. Mereka menekankan bahwa meskipun kedua bidang telah matang secara independen, integrasinya sangat penting untuk penerapan praktis. Ketiga sub-masalah menyoroti perlunya pergeseran paradigma: dari katalog mitigasi generik ke kerangka pemilihan yang sadar konteks dan spesifik GenAI. Keempat rekomendasi memberikan arahan konkret bagi peneliti dan praktisi. Misalnya, pemetaan terperinci memerlukan taksonomi ancaman GenAI yang menangkap risiko berbasis inferensi dan propagasinya melalui sistem. Evaluasi ulang asumsi ruang solusi menuntut penilaian kritis terhadap teknik seperti differential privacy, federated learning, dan secure multi-party computation dalam konteks large language model dan model generatif. Prioritas harus memperhitungkan trade-off antara privasi, utilitas, dan kinerja, yang diperburuk oleh skala dan kompleksitas sistem GenAI. Pendekatan yang diusulkan memperluas metode yang mapan, seperti LINDDUN, ke GenAI dengan memasukkan karakteristik ancaman seperti model inversion, membership inference, dan prompt leakage. Makalah ini diakhiri dengan agenda penelitian yang mencakup pengembangan pemetaan ancaman-ke-mitigasi yang komprehensif, pembuatan tolok ukur evaluasi untuk mitigasi privasi GenAI, dan penetapan pedoman untuk memilih mitigasi berdasarkan batasan sistem. Agenda ini bertujuan menjembatani kesenjangan dan memungkinkan rekayasa privasi yang lebih sistematis untuk sistem berbasis GenAI.

Siapa yang sebaiknya membaca

Praktisi dan peneliti ilmu komputer

Membuka konten member…