Tech & internet

Quand Flickr tague accidentellement les noirs comme des singes

Temps de lecture : 2 min

La nouvelle version du site de partage de photos souffre du pire bug imaginable.

Impression écran du site Flickr.com.
Impression écran du site Flickr.com.

L’outil de reconnaissance automatique de Flickr était pourtant plein de bonnes attentions. Il devait simplifier la mise en ligne de photos en proposant des tags automatiques correspondant à ce que l’on voit sur l’image. Mais quelques jours seulement après la mise en fonction de cet outil, le site The Independent a déjà relevé de graves problèmes.

Une photo d’un homme noir a été identifiée avec les tags «animal» et «singe». Au-delà du préjugé raciste évident, un utilisateur a noté qu’une autre photo, d’une femme blanche dont le visage était recouvert de pigments de couleur cette fois-ci, a également été annotée avec les mêmes tags.

Et les problèmes ne s’arrêtent pas là. Des photos de portes d’entrée de camp de concentration ont été marquées avec les tags «sport» ou «ensemble de jeux pour enfants» («jungle gym»).

Impression écran sous une photo d'un camp de concentration (via The Guardian).

Les tags en question ont depuis été supprimés, mais face à ces problèmes récurrents, un responsable de Flickr a répondu au Guardian:

«Nous sommes au courant des problèmes d’auto-tags incorrects sur Flickr et nous travaillons sur une solution. Alors que nous sommes très fiers de cette avancée dans la technologie de reconnaissance d’image, nous sommes les premiers à admettre qu’il y aura des erreurs et nous travaillons constamment pour améliorer l’expérience. Si vous supprimez un tag incorrect, notre algorithme va apprendre de cette erreur et sera meilleur à l’avenir. Le processus de tag est complètement automatisé, aucun humain ne verra vos photos pour les taguer.»

Malgré ces explications, les utilisateurs reprochent au site, propriété de Yahoo, de ne pas prendre suffisamment en considération les utilisateurs:

«Comme souvent ces dernières années, explique Paul Hetheringon, qui a alerté The Guardian sur ces problèmes, Flickr et Yahoo ont mis en œuvre un changement radical et significatif dans l’expérience utilisateur de façon hâtive et sans consulter ou avertir les utilisateurs.»

Cette polémique arrive quelques jours après une autre du même genre, qui cette fois concernait Google Maps et ses suggestions de localisation. En tapant des mots racistes (tel que le mot «nègre» en anglais) associés au mot «house», Google vous indiquait… la Maison Blanche.

Slate.fr

Newsletters

Pendant neuf heures, les Cubains ont pu accéder à internet de n'importe où. Une révolution

Pendant neuf heures, les Cubains ont pu accéder à internet de n'importe où. Une révolution

«Nous devons être capable de mettre en ligne un contenu révolutionnaire» a déclaré le nouveau président cubain Miguel Díaz-Canel.

Un an dans l'intimité de la Taverne des Patriotes, repaire de militants nationalistes

Un an dans l'intimité de la Taverne des Patriotes, repaire de militants nationalistes

Un simple clic suffit à découvrir l’un des plus grands forums de discussion en ligne des sympathisants de Marine Le Pen. Pendant la campagne présidentielle de 2017, il revendiquait plus de 2.500 membres. Bienvenue dans la «Taverne des Patriotes».

Google traque tous ses usagers… même ceux qui désactivent leur localisation

Google traque tous ses usagers… même ceux qui désactivent leur localisation

Deux milliards d’utilisateurs seraient affectés.

Newsletters