Tech & internet

Jugée «trop sexy», une image d'oignons bloquée par l'algorithme de Facebook

Temps de lecture : 2 min

L'IA qui modère le réseau social aurait-elle un petit penchant pour cette plante potagère?

L'erreur a finalement été repérée par Facebook et l'annonce a fini par être publiée. | Mockup Graphics via Unsplash
L'erreur a finalement été repérée par Facebook et l'annonce a fini par être publiée. | Mockup Graphics via Unsplash

Son bulbe luisant, la régularité de ses lignes, sa forme sphérique, voluptueuse... Stop! Alors que quand vous regardez un oignon, vous ne voyez qu'un légume appétissant, l'algorithme de Facebook, lui, y voit un contenu outrageusement sexy et sensuel qui n'a rien à faire sur sa plateforme.

Quand Gaze Seed Co., un magasin de semences et d'engrais au Canada, a posté une image sur Facebook d'un tas d'oignons pour promouvoir ses graines, l'entreprise a eu la surprise de découvrir que sa publication avait été bloquée par l'algorithme du réseau social. La raison? L'image a été jugée «ouvertement sexuelle» pour le filtre anti-nudité de la plateforme.

À regarder l'image de la publication, difficile d'y voir un aspect sexuel. «Je suppose que quelque chose dans les deux formes rondes [des oignons] pourrait être interprété comme des seins ou quelque chose comme ça», explique Jackson McLean, directeur de l'entreprise canadienne. Le texte au-dessus de l'annonce, décrivant l'oignon comme étant «extrêmement sucré, doux et gros», a peut-être été fatal à la publication.

L'erreur a finalement été repérée par Facebook quelque temps après et l'annonce a fini par être publiée. La variété de l'oignon, appelé Walla Walla, n'était pas connue par l'algorithme automatisé, ce qui peut peut-être expliquer le malentendu, précise à CBC Meg Sinclair, responsable des communications chez Facebook Canada.

Automatisation en question

Voir des seins dans un tas d'oignons révèle un problème bien plus large: celui de la modération automatisée de Facebook, qui montre clairement des failles.

Entre janvier et mars 2020, la plateforme a supprimé 39,5 millions de contenus montrant de la nudité, rapporte le Guardian. Au total, 99,2% d'entre eux ont été supprimés automatiquement par l'intelligence artificielle de la plateforme –visiblement avec de nombreuses erreurs.

Sur la même période, il y aurait en effet eu 2,5 millions d'appels contre ces suppressions et 613.000 publications ont finalement été restaurées.

Si Facebook a quelque peu du mal à filtrer les contenus sexuels sur sa plateforme, son algorithme semble encore plus à la peine quand il s'agit de filtrer les discours haineux et les fake news –ce qui est souvent reproché au géant du web.

Mark Zuckerberg, le fondateur du réseau social, avait admis en 2018 qu'il est «beaucoup plus facile de créer un système d'IA capable de détecter un téton que de déterminer ce qu'est un discours de haine». Dans le cas de l'oignon Walla Walla, c'est raté.

Newsletters

Claudia Conway, la star de TikTok qui ébranle la Maison-Blanche

Claudia Conway, la star de TikTok qui ébranle la Maison-Blanche

Connue pour ses vidéos de danse et de chant sur TikTok, la fille de Kellyanne Conway, ex-conseillère de Donald Trump, a été révélée au grand public grâce à son franc-parler en matière de politique.

L'OMS collabore avec Wikipédia contre la désinformation sur le Covid-19

L'OMS collabore avec Wikipédia contre la désinformation sur le Covid-19

L'Organisation mondiale de la santé espère ainsi prévenir une prochaine «infodémie».

Comment la Russie tente d'isoler son internet du reste du monde

Comment la Russie tente d'isoler son internet du reste du monde

Une nouvelle composante de la navigation sur internet est sur le point d'être criminalisée en Russie.

Newsletters