Biaya Privasi sebagai Input Keadilan: Kriteria Keadilan Kelompok untuk Pembelajaran Mesin yang Diferensial Privat

Differential privacy (DP) semakin banyak diterapkan untuk membatasi risiko inferensi keanggotaan dalam sistem pembelajaran mesin. Penelitian sebelumnya telah menunjukkan bahwa DP-SGD dapat memperlebar disparitas akurasi antar kelompok demografis, tetapi kerangka ini memperlakukan keadilan sebagai persoalan sisi hasil semata. Penulis berargumen bahwa biaya privasi—kebocoran informasi yang ditanggung setiap kelompok—itu sendiri merupakan suatu bentuk kerugian. Dengan mengadopsi kerangka keadilan kompensatori, makalah ini mengemukakan bahwa kelompok yang secara tidak sukarela menanggung paparan privasi lebih besar berhak atas manfaat yang proporsional lebih besar dari sistem. Pembingkaian ulang ini menggeser audit keadilan dari hanya siapa yang diuntungkan menjadi juga siapa yang membayar untuk perlindungan.

Hasilnya mengungkap pola yang terlewat oleh metrik berbasis hasil. Pada COMPAS, PCER menemukan kerugian ganda yang persisten: kelompok terlindungi menanggung paparan privasi yang lebih besar sekaligus hasil prediktif yang lebih buruk, sesuatu yang sepenuhnya tertutupi oleh celah paritas demografis. Analisis sensitivitas menunjukkan bahwa jaminan privasi yang sangat kuat meruntuhkan overfitting kedua kelompok ke lantai numerik, sehingga audit berbasis paparan menjadi tidak informatif pada rezim tersebut. Di antara enam kombinasi tolok ukur–atribut, PCER memberikan pandangan keadilan yang lebih bernuansa daripada metrik keadilan standar di bawah DP-SGD.