Editorial Ilmu Komputer & AI
SWB-DM: Agregator Sliced-Wasserstein-Barycenter Terkalibrasi dengan Delayed-Momentum Caching untuk Federated Learning yang Tangguh terhadap Byzantine pada Partisipasi Parsial
Masalah inti
Agregasi yang tangguh untuk federated learning (FL) diam-diam mewarisi asumsi yang tidak dapat dipertahankannya: bahwa klien yang diambil sampelnya pada ronde tertentu adalah sampel yang adil dan representatif dari seluruh populasi. Pada partisipasi parsial, asumsi ini rutin gagal. Ketika hanya segelintir klien yang melapor per ronde, bahkan sebagian kecil penyerang dapat mendominasi kohort sampel dan membatalkan jaminan sampel terbatas yang menjadi sandaran median koordinat, Krum, Bulyan, dan trimmed mean.
Makalah ini memperkenalkan **SWB-DM** untuk mengatasi celah ini secara langsung. Dua komponennya adalah:
1. **SWB (Sliced-Wasserstein Barycenter)** — agregator tangguh yang memperlakukan setiap irisan pembaruan klien sebagai distribusi satu dimensi, menghitung barycenter Wasserstein *terpangkas* di seluruh klien, dan memulihkan identitas koordinat melalui langkah gauge-fixing berbasis medoid. Penulis secara eksplisit menandai gauge-fixing sebagai heuristik yang mereka kembangkan dan tidak mengklaimnya sebagai bagian dari teori transportasi optimal standar.
2. **Delayed momentum (DM) bergaya DeMoA** — cache yang mengakumulasi pembaruan di seluruh populasi klien setiap ronde, me
Inovasi
Program empiris mencakup 448 konfigurasi CIFAR-10, plus CIFAR-100, FEMNIST, dan uji skalabilitas 500 klien. Beberapa mode kegagalan yang berbeda secara mekanistik muncul pada pertahanan sebelumnya:
- **Median koordinat sampel genap** merosot menjadi jawaban salah yang deterministik.
- **Krum** diam-diam melanggar prasyaratnya sendiri dan divergen tanpa peringatan.
- Ambang **Bulyan** menghasilkan batas lulus/gagal yang tajam.
Pada serangan, **IPM mengalahkan pertahanan statistik tatanan — termasuk SWB — lebih andal daripada ALIE**, dikonfirmasi melalui pengukuran ruang delta terhadap batas konvergensi. Ini adalah hasil negatif yang penting bagi komponen SWB secara terpisah.
Cache SWB-DM membawa biaya pemanasan yang nyata, tetapi memperluas semua baseline ke anggaran ronde yang sama menunjukkan keuntungan CIFAR-10-nya sangat besar secara tidak proporsional. Pada CIFAR-100, **FLTrust lebih diuntungkan** — karena alasan yang sama sekali tidak terkait dengan caching. Uji skalabilitas 500 klien menguji apakah biaya pemanasan cache teramortisasi pada skala besar, dan makalah melaporkan hasilnya sebagai bagian dari rangkaian evaluasi yang sama.
Mengapa penting
Kontribusi makalah ini paling baik dibaca sebagai koreksi struktural alih-alih pertahanan baru yang spesifik terhadap serangan. Agregator statistik tatanan (median, Krum, Bulyan, trimmed mean) mewarisi jaminan sampel terbatas yang hanya valid di bawah asumsi sampel adil. Pada partisipasi parsial, asumsi itu dilanggar, dan makalah menunjukkan konsekuensinya bukan degradasi yang mulus melainkan mode kegagalan yang berbeda secara kualitatif: jawaban salah yang deterministik, pelanggaran prasyarat yang senyap, dan batas lulus/gagal yang tajam.
Respons SWB-DM adalah memindahkan ketangguhan dari tingkat ronde ke tingkat populasi. Cache delayed-momentum mengakumulasi informasi di seluruh klien, sehingga ronde dengan sedikit peserta tidak lagi menentukan profil ketangguhan. Inilah sebabnya penulis membingkai cache sebagai pemisah ketangguhan dari siapa pun yang kebetulan diambil sampelnya.
Hasil kalibrasi rasio pemangkasan adalah temuan yang paling penting secara operasional: pemangkasan yang kurang menyebabkan keruntuhan pada tingkat korupsi yang dapat dilewati model yang terkalibrasi dengan benar. Praktisi yang menerapkan agregator terpangkas harus memperlakukan rasio pemangkasan sebagai hyperparameter kelas satu, bukan pengaturan kosmetik.
Hasil IPM adalah peringatan agar tidak mengklaim berlebihan. IPM mengalahkan pertahanan statistik tatanan — termasuk SWB — lebih andal daripada ALIE, dikonfirmasi melalui pengukuran ruang delta terhadap batas konvergensi. Keuntungan SWB-DM karena itu tidak universal; keuntungan itu bersyarat pada model serangan dan pada kalibrasi rasio pemangkasan.
Hasil CIFAR-100 — FLTrust lebih diuntungkan, karena alasan yang tidak terkait dengan caching — adalah pengingat bahwa transfer klaim ketangguhan lintas dataset tidak otomatis. Uji skalabilitas 500 klien dan perbandingan anggaran ronde yang setara adalah pertahanan utama makalah terhadap keberatan bahwa SWB-DM sekadar menghabiskan lebih banyak komputasi.
Siapa yang sebaiknya membaca
Membuka konten member…