Égalités / Tech & internet

Amazon a dû se débarrasser d’une intelligence artificielle sexiste

Temps de lecture : 2 min

Un programme censé trier les CV avant embauche discriminait les candidates.

Chez Amazon, seulement 40% de la masse salariale est féminine | Christian Wiediger via Unsplash CC License by
Chez Amazon, seulement 40% de la masse salariale est féminine | Christian Wiediger via Unsplash CC License by

Amazon a tenté d’automatiser ses recrutements en les confiant à une intelligence artificielle (IA) secrète. Selon une source anonyme impliquée dans le projet, le géant du e-commerce voulait «un engin auquel on pouvait fournir 100 CVs [pour] qu’il recrache les cinq meilleurs et qu’on embauche ceux-là».

Le succès d’Amazon repose en partie sur l’automatisation de toutes les étapes de son activité, du fonctionnement interne de ses entrepôts aux recommandations et à la fixation des prix sur son site Internet. Il semble donc naturel que l’entreprise étende cette automatisation à son recrutement.

L'IA copie les comportements humains

On pourrait même penser que c'est une bonne chose, puisqu’a priori des robots devraient être totalement objectifs, débarrassés de biais racistes ou sexistes que l'on trouve chez des humains. Or au contraire, les IA perpétuent ces biais. En effet, l’algorithme utilisé par Amazon, comme beaucoup d’autres, utilise ce qu'on appelle le «machine learning», c’est-à-dire qu'il se base sur des données pré-existantes et tente au mieux de les reproduire pour prendre des décisions.

L’IA s'appuyait sur les recrutements effectués durant les dix dernières années chez Amazon. Des embauches effectuées par des êtres humains, dans un environnement très largement dominé par les hommes. D’après Reuters, chez Amazon 60% de la masse salariale est masculine, et la société refuse de dévoiler la part de femmes à des postes techniques, où elles sont d’ordinaire encore plus rares.

Ainsi l’IA pénalisait les candidates qui avaient fait leur scolarité dans des universités non-mixtes ou tout CV qui contenait le mot «femme». Par exemple, la mention d’un «club de jeu échecs pour femme» dépréciait automatiquement le CV.

Selon Reuters, le programme n’était qu’un test. Lorsque le biais sexiste a été découvert, des modifications ont été apportées, mais comme Amazon ne pouvait s'assurer qu'il n'y avait pas d’autres discriminations, il a abandonné son algorithme en fin d’année dernière. Pour autant, le groupe n'a pas renoncé à trouver une formule qui pourrait le remplacer.

Newsletters

La Nouvelle-Zélande s'apprête enfin à décriminaliser l'avortement

La Nouvelle-Zélande s'apprête enfin à décriminaliser l'avortement

Pourtant progressiste concernant les droits des femmes, le pays considère toujours l'IVG comme un crime. Une réforme est en cours d'examen au Parlement pour remédier à la situation.

Au Maghreb, des cafés réservés aux femmes font débat

Au Maghreb, des cafés réservés aux femmes font débat

Passer un moment à l'abri de la pression sociale, c'est la promesse faite aux clientes de ces établissements. Deux d'entre eux viennent d'ouvrir dans le nord du Maroc.

Violences conjugales: faut-il reconnaître la légitime défense des victimes tuant leur conjoint?

Violences conjugales: faut-il reconnaître la légitime défense des victimes tuant leur conjoint?

Près de la moitié des femmes autrices d'homicide sur leur partenaire avait subi des violences antérieures de sa part. Le droit français peine encore à prendre en compte cette réalité.

Newsletters