Utiliser l'équité d'un modèle d'apprentissage pour reconstruire les attributs sensibles de son ensemble d'entraînement
Julien Ferry  1@  , Ulrich Aïvodji  2@  , Sebastien Gambs  3@  , Marie-José Huguet  1@  , Mohamed Siala  1@  
1 : Laboratoire dánalyse et dárchitecture des systèmes
Institut National des Sciences Appliquées - Toulouse, Centre National de la Recherche Scientifique, Centre National de la Recherche Scientifique : UPR8001
2 : Ecole de Technologie Supérieure [Montréal]
3 : Université du Québec à Montréal = University of Québec in Montréal

L'équité et la protection de la vie privée sont deux enjeux fondamentaux pour le développement de techniques d'apprentissage dignes de confiance.

Parmi les différentes notions d'équité proposées, les métriques d'équité statistique mesurent la différence d'une certaine grandeur, qui est fonction de la matrice de confusion d'un modèle (ex: taux de vrais positifs), entre différents groupes protégés, définis par la valeur d'un ou plusieurs attributs sensibles (genre, origine ethnique, ...). Bien que les modèles équitables ainsi appris n'utilisent généralement pas ces attributs sensibles pour leurs prédictions, ils doivent néanmoins faire partie de leur ensemble d'entraînement - pour s'assurer du respect de l'équité.

Dans ce travail, nous montrons que l'information de l'équité d'un modèle peut être utilisée pour reconstruire les attributs sensibles de son ensemble d'entraînement. L'attaque de reconstruction proposée utilise des approches déclaratives (programmation linéaire en nombres entiers et programmation par contraintes) et est évaluée expérimentalement. Nos résultats illustrent la tension (déjà observée dans la littérature) entre protection de la vie privée - en particulier des attributs sensibles - et apprentissage équitable vis-à-vis de ces mêmes attributs.


Personnes connectées : 3 Vie privée
Chargement...