Algorithmes : Biais, Discrimination et Équité

Résumé : Les algorithmes s’immiscent de plus en plus dans notre quotidien à l’image des algorithmes d’aide à la décision (algorithme de recommandation ou de scoring), ou bien des algorithmes autonomes embarqués dans des machines intelligentes (véhicules autonomes). Déployés dans de nombreux secteurs et industries pour leur efficacité, leurs résultats sont de plus en plus discutés et contestés. En particulier, ils sont accusés d’être des boites noires et de conduire à des pratiques discriminatoires liées au genre ou à l’origine ethnique. L’objectif de cet article est de décrire les biais liés aux algorithmes et d’esquisser des pistes pour y remédier. Nous nous intéressons en particulier aux résultats des algorithmes en rapport avec des objectifs d’équité, et à leurs conséquences en termes de discrimination. Trois questions motivent cet article : Par quels mécanismes les biais des algorithmes peuvent-ils se produire ? Peut-on les éviter ? Et, enfin, peut-on les corriger ou bien les limiter ? Dans une première partie, nous décrivons comment fonctionne un algorithme d’apprentissage statistique. Dans une deuxième partie nous nous intéressons à l’origine de ces biais qui peuvent être de nature cognitive, statistique ou économique. Dans une troisième partie, nous présentons quelques approches statistiques ou algorithmiques prometteuses qui permettent de corriger les biais. Nous concluons l’article en discutant des principaux enjeux de société soulevés par les algorithmes d’apprentissage statistique tels que l’interprétabilité, l’explicabilité, la transparence, et la responsabilité.
Document type :
Preprints, Working Papers, ...
Complete list of metadatas

Cited literature [43 references]  Display  Hide  Download

https://hal.telecom-paristech.fr/hal-02077745
Contributor : David Bounie <>
Submitted on : Saturday, March 23, 2019 - 7:15:42 PM
Last modification on : Thursday, October 17, 2019 - 12:36:10 PM

File

Algorithmes_-_Biais__discrimin...
Files produced by the author(s)

Identifiers

  • HAL Id : hal-02077745, version 1

Citation

Patrice Bertail, D. Bounie, Stephan Clemencon, Patrick Waelbroeck. Algorithmes : Biais, Discrimination et Équité. 2019. ⟨hal-02077745⟩

Share

Metrics

Record views

167

Files downloads

435