Tech & internet

Jugée «trop sexy», une image d'oignons bloquée par l'algorithme de Facebook

Temps de lecture : 2 min

L'IA qui modère le réseau social aurait-elle un petit penchant pour cette plante potagère?

L'erreur a finalement été repérée par Facebook et l'annonce a fini par être publiée. | Mockup Graphics via Unsplash
L'erreur a finalement été repérée par Facebook et l'annonce a fini par être publiée. | Mockup Graphics via Unsplash

Son bulbe luisant, la régularité de ses lignes, sa forme sphérique, voluptueuse... Stop! Alors que quand vous regardez un oignon, vous ne voyez qu'un légume appétissant, l'algorithme de Facebook, lui, y voit un contenu outrageusement sexy et sensuel qui n'a rien à faire sur sa plateforme.

Quand Gaze Seed Co., un magasin de semences et d'engrais au Canada, a posté une image sur Facebook d'un tas d'oignons pour promouvoir ses graines, l'entreprise a eu la surprise de découvrir que sa publication avait été bloquée par l'algorithme du réseau social. La raison? L'image a été jugée «ouvertement sexuelle» pour le filtre anti-nudité de la plateforme.

À regarder l'image de la publication, difficile d'y voir un aspect sexuel. «Je suppose que quelque chose dans les deux formes rondes [des oignons] pourrait être interprété comme des seins ou quelque chose comme ça», explique Jackson McLean, directeur de l'entreprise canadienne. Le texte au-dessus de l'annonce, décrivant l'oignon comme étant «extrêmement sucré, doux et gros», a peut-être été fatal à la publication.

L'erreur a finalement été repérée par Facebook quelque temps après et l'annonce a fini par être publiée. La variété de l'oignon, appelé Walla Walla, n'était pas connue par l'algorithme automatisé, ce qui peut peut-être expliquer le malentendu, précise à CBC Meg Sinclair, responsable des communications chez Facebook Canada.

Automatisation en question

Voir des seins dans un tas d'oignons révèle un problème bien plus large: celui de la modération automatisée de Facebook, qui montre clairement des failles.

Entre janvier et mars 2020, la plateforme a supprimé 39,5 millions de contenus montrant de la nudité, rapporte le Guardian. Au total, 99,2% d'entre eux ont été supprimés automatiquement par l'intelligence artificielle de la plateforme –visiblement avec de nombreuses erreurs.

Sur la même période, il y aurait en effet eu 2,5 millions d'appels contre ces suppressions et 613.000 publications ont finalement été restaurées.

Si Facebook a quelque peu du mal à filtrer les contenus sexuels sur sa plateforme, son algorithme semble encore plus à la peine quand il s'agit de filtrer les discours haineux et les fake news –ce qui est souvent reproché au géant du web.

Inscrivez-vous à la newsletter de SlateInscrivez-vous à la newsletter de Slate

Mark Zuckerberg, le fondateur du réseau social, avait admis en 2018 qu'il est «beaucoup plus facile de créer un système d'IA capable de détecter un téton que de déterminer ce qu'est un discours de haine». Dans le cas de l'oignon Walla Walla, c'est raté.

Newsletters

Elon Musk offre de l'argent à un ado pour qu'il arrête de stalker les vols de son jet privé

Elon Musk offre de l'argent à un ado pour qu'il arrête de stalker les vols de son jet privé

Le jeune homme a refusé les 5.000 dollars et a fait une contre-proposition.

Poutine accentue sa guerre contre Google

Poutine accentue sa guerre contre Google

Le Kremlin reproche aux géants américains de la tech de faire de l'«ingérence électorale».

Aux Jeux olympiques de Pékin, les athlètes peuvent craindre pour leur cybersécurité

Aux Jeux olympiques de Pékin, les athlètes peuvent craindre pour leur cybersécurité

Certains pays, dont les États-Unis, leur recommandent même de ne pas s'y rendre avec leur smartphone personnel.

Podcasts Grands Formats Séries
Slate Studio