Tech & internet

L'algorithme Facebook confond des hommes noirs avec des singes

Temps de lecture : 2 min

C'est loin d'être la première fois que des personnes non blanches sont victimes d'une reconnaissance faciale pas conçue pour eux.

quitting facebook, #deletefacebook | Book Catalog via Flickr CC License by
quitting facebook, #deletefacebook | Book Catalog via Flickr CC License by

«Voulez-vous voir plus de vidéos sur les primates?» C'est la suggestion effectuée par Facebook aux utilisateurs et utilisatrices ayant visionné une vidéo (mise en ligne par le Daily Mail en juin 2020) dans laquelle figurent des hommes noirs. À peine alerté, le réseau social a désactivé cette recommandation d'un racisme absolu, et dit mener une enquête en interne pour comprendre comment une telle erreur a pu être commise.

Interrogée ce vendredi par le New York Times, une porte-parole de Facebook a reconnu que cette suggestion automatique constituait une «erreur inacceptable» et a présenté ses excuses aux personnes ayant été offensées.

Ce n'est pas la première fois que Facebook commet ce genre d'erreur majeure. L'an dernier, dans la traduction automatique d'un texte birman en anglais, le président chinois Xi Jinping était qualifié de «Mr. S***hole» («M. Tr** du C*l»). Un problème de traduction automatique qui n'a concerné que Facebook, Google n'ayant pas rencontré de souci de ce genre.

Des conséquences importantes

À propos de Google, on rappelle néanmoins qu'en 2015, Google Images avait catégorisé des personnes noires en tant que gorilles. L'entreprise avait fini par présenter ses excuses et par réaliser un travail tout particulier sur des termes comme «gorille», «chimpanzé» ou «singe» afin que ce genre de faute ne se reproduise plus.

Les biais de reconnaissance faciale sont légion, rappelle le New York Times, puisque les algorithmes peinent aujourd'hui encore à reconnaître convenablement les personnes non blanches. Avec des conséquences parfois gravissimes. En 2020, Robert Julian-Borchak Williams était dénoncé par un algorithme de reconnaissance pour un vol qu'il n'avait pas commis, confondu avec un autre homme noir.

Newsletters

Breton, corse, occitan, catalan... Les langues régionales se cultivent sur Wikipédia

Breton, corse, occitan, catalan... Les langues régionales se cultivent sur Wikipédia

Ceux qui les parlent ont beau être peu nombreux sur l'encyclopédie en ligne, leurs contributions sont précieuses pour permettre de faire vivre ces langues.

«Je baise en dormant»: la sexsomnie, trouble évoqué par le YouTubeur Léo Grasset accusé de viol

«Je baise en dormant»: la sexsomnie, trouble évoqué par le YouTubeur Léo Grasset accusé de viol

Visé par une enquête pour viol, alors qu'il faisait déjà l'objet d'une enquête préliminaire pour des faits de harcèlement sexuel, le vidéaste star s'est défendu en affirmant souffrir d'une forme particulière de somnambulisme.

Arrêtez de regarder les bandes-annonces, elles sont devenues totalement inutiles

Arrêtez de regarder les bandes-annonces, elles sont devenues totalement inutiles

Au nom du marketing, elles nous vendent désormais des films qui n'existent pas.

Podcasts Grands Formats Séries
Slate Studio