Sintesis Data Tekstual Terdistribusi dan Privat dari Embedding

Ko-desain DP-kriptografi untuk sintesis teks tanpa pelatihan dan non-iteratif tanpa kurator tepercaya

Ergute Bao; Hongyan Chang; Ali Shahin Shamsabadi; Ting Yu; Xiaokui Xiao· 2026· DOI 10.48550/arXiv.2609.10104

Masalah inti

Sintesis teks diferensial-privat (DP) secara tradisional bergantung pada kurator terpusat yang tepercaya dengan akses ke teks pengguna mentah. Namun, dalam lingkungan terdistribusi yang realistis, kekhawatiran privasi menghalangi keberadaan kurator semacam itu, dan pipeline sintesis teks DP yang ada tidak dapat diterapkan karena asumsi kepercayaan dan akses yang tidak realistis. Adaptasi naif memerlukan partisipasi pengguna yang berulang dan tersinkronisasi ketat serta menimbulkan overhead yang signifikan. Karya ini mengatasi kesenjangan tersebut dengan mengusulkan ko-desain DP-kriptografi untuk sintesis data tekstual yang tidak memerlukan kurator tepercaya dan hanya membutuhkan partisipasi pengguna yang ringan. Pendekatan ini terdiri dari dua komponen yang dioptimalkan: algoritma sintesis DP yang ramah terdistribusi dan protokol aman khusus yang menegakkan jaminan DP ujung-ke-ujung atas data pengguna terdistribusi. Tujuannya adalah mencapai utilitas yang sebanding dengan metode sintesis DP terpusat mutakhir sekaligus beroperasi secara terdistribusi penuh dan menjaga privasi.

Penulis mengevaluasi pendekatan mereka pada empat tolok ukur, membandingkannya dengan metode sintesis DP terpusat mutakhir. Hasilnya menunjukkan bahwa metode terdistribusi yang diusulkan mencapai utilitas yang sebanding dengan baseline terpusat. Secara spesifik, utilitas diukur dalam hal kualitas teks sintetis, kemungkinan menggunakan metrik seperti BLEU, ROUGE, atau kinerja tugas hilir. Makalah ini melaporkan bahwa pendekatan terdistribusi hanya menimbulkan partisipasi pengguna yang ringan dan tanpa kurator tepercaya, sekaligus mempertahankan utilitas yang kompetitif. Hasil numerik yang tepat tidak disediakan dalam abstrak, tetapi klaim utilitas yang sebanding merupakan temuan kunci. Evaluasi kemungkinan mencakup anggaran privasi (ϵ, δ) dan ukuran dataset yang bervariasi, menunjukkan bahwa metode ini berskala baik dan memberikan jaminan privasi yang kuat.

Sintesis teks diferensial-privat (DP) secara tradisional bergantung pada kurator terpusat yang tepercaya dengan akses ke teks pengguna mentah. Namun, dalam lingkungan terdistribusi yang realistis, kekhawatiran privasi menghalangi keberadaan kurator semacam itu, dan pipeline sintesis teks DP yang ada tidak dapat diterapkan karena asumsi kepercayaan dan akses yang tidak realistis. Adaptasi naif memerlukan partisipasi pengguna yang berulang dan tersinkronisasi ketat serta menimbulkan overhead yang signifikan. Karya ini mengatasi kesenjangan tersebut dengan mengusulkan ko-desain DP-kriptografi untuk sintesis data tekstual yang tidak memerlukan kurator tepercaya dan hanya membutuhkan partisipasi pengguna yang ringan. Pendekatan ini terdiri dari dua komponen yang dioptimalkan: algoritma sintesis DP yang ramah terdistribusi dan protokol aman khusus yang menegakkan jaminan DP ujung-ke-ujung atas data pengguna terdistribusi. Tujuannya adalah mencapai utilitas yang sebanding dengan metode sintesis DP terpusat mutakhir sekaligus beroperasi secara terdistribusi penuh dan menjaga privasi.

Metodologi yang diusulkan terdiri dari dua komponen utama:

Makalah ini mengatasi kesenjangan kritis dalam sintesis teks DP dengan memungkinkan lingkungan terdistribusi tanpa kurator tepercaya. Desain dua komponen—algoritma sintesis DP yang ramah terdistribusi dan protokol aman khusus—secara efektif menyeimbangkan privasi, utilitas, dan efisiensi. Penggunaan ringkasan DP sekali pakai di ruang embedding memungkinkan sintesis tanpa pelatihan dan non-iteratif, yang mengurangi overhead komputasi dan beban pengguna. Perlindungan dukungan semantik adalah kontribusi baru yang memitigasi risiko mengekspos data pengguna yang langka, pertimbangan penting dalam sintesis data yang menjaga privasi. Protokol aman memanfaatkan kriptografi untuk menegakkan jaminan DP, memastikan bahwa bahkan server tidak mengakses data mentah. Namun, pendekatan ini mungkin memiliki batasan, seperti kebutuhan akan pengaturan MPC yang aman dan potensi overhead komunikasi selama komputasi ringkasan. Penulis mengklaim utilitas yang sebanding dengan metode terpusat, tetapi trade-off antara anggaran privasi, utilitas, dan efisiensi kemungkinan dieksplorasi. Pekerjaan selanjutnya dapat memperluas metode ini ke modalitas lain atau meningkatkan efisiensi protokol aman. Secara keseluruhan, karya ini merupakan langkah signifikan menuju sintesis teks yang praktis dan menjaga privasi di lingkungan terdistribusi.

Praktisi dan peneliti ilmu komputer

Membuka konten member…