Approches combinatoires et bayésiennes pour la détection de biais dans les algorithmes en ligne
Benoit Rottembourg  1@  , Jordan Thieyre  1@  
1 : Inria Siège
Institut National de Recherche en Informatique et en Automatique

Nos travaux se situent dans le cadre de l'audit de biais en boîte noire dans les algorithmes des plateformes en ligne, comme les algorithmes de pricing ou de recommandation. Nous formalisons le problème de la recherche de biais comme un problème combinatoire et stochastique de recherche de zones d'intérêts caractérisant l'infraction préjudiciable recherchée de manière probante. 

Nous montrons l'intérêt d'utiliser des méthodes d'échantillonnage séquentiel pour minimiser le nombre d'échantillons nécessaires à détecter des biais dans les algorithmes en boîte noire et l'illustrons sur des exemples d'algorithmes de pricing en livraison de repas à domicile et en agence de voyages en ligne. 


Personnes connectées : 1 Vie privée
Chargement...