#P1PS Droits des femmes : Sexe genre et orientation sexuelle face aux biais algorithmiques

Qu'est-ce qu'un algorithme ?

Un algorithme est une séquence d'opérations permettant d’obtenir un résultat. Une recette de cuisine par exemple ou une partition de musique sont des algorithmes.
Dans le domaine du numérique, l’algorithme fixe les grandes idées qui vont gouverner le fonctionnement d’un logiciel, celui-ci étant ensuite écrit dans un langage informatique. Ainsi, les moteurs de recherche ou les réseaux sociaux sont d’abord exprimés sous forme d'algorithme qui dictera leurs fonctionnalités telles que proposer des résultats (moteur de recherche) ou personnaliser le contenu sur un fil d’actualité (réseaux sociaux), avant d’être concrétisés dans un programme.

Qu'est-ce qu'un biais algorithmique ?

Le résultat obtenu par un processus dépend de l’algorithme utilisé. Or, en tant qu’il est conçu par des humains, paramétré et corrigé par eux, et qu’il s’entraîne à partir d’une base de données compilée par des humains dans le cadre de l’apprentissage machine, un algorithme peut reproduire leurs biais. 

Ces biais peuvent être statistiques. Pour reprendre l’exemple d’Amazon, son algorithme de recrutement reposait sur l’idée que les nouveaux employés devaient présenter les mêmes caractéristiques que ceux déjà recrutés et dont les CV constituaient la base de données. Or, les cadres recrutés jusqu’alors étaient pour une écrasante majorité des hommes, ce qui a conduit l’algorithme à ne pas retenir des femmes pourtant qualifiées.

Ils peuvent également être cognitifs (comme pour Kosinski et Wang), ou économiques. Par exemple, un algorithme d’annonces publicitaires pour des emplois dans des domaines scientifiques favorisait le ciblage des hommes jeunes aux États-Unis, le segment de publicité des femmes jeunes étant plus coûteux. Or, l’algorithme avait été programmé pour optimiser le rapport coût-efficacité de ses annonces (Lambrecht et Tucker, 2017).

Intervenants

• Célia Zolynski, professeure de droit à l'université Paris 1 Panthéon-Sorbonne
• Laurence Devillers, professeure en informatique à Sorbonne-Université
• Fabien Tarissan, chercheur en informatique au CNRS
• Julie Charpenet, doctorante contractuelle, coordonnatrice FabLex DL4T

► Cette table ronde est organisée par le Master 2 Droit du commerce électronique et de l’économie numérique