Tech & internet

Jugée «trop sexy», une image d'oignons bloquée par l'algorithme de Facebook

Temps de lecture : 2 min

L'IA qui modère le réseau social aurait-elle un petit penchant pour cette plante potagère?

L'erreur a finalement été repérée par Facebook et l'annonce a fini par être publiée. | Mockup Graphics via Unsplash
L'erreur a finalement été repérée par Facebook et l'annonce a fini par être publiée. | Mockup Graphics via Unsplash

Son bulbe luisant, la régularité de ses lignes, sa forme sphérique, voluptueuse... Stop! Alors que quand vous regardez un oignon, vous ne voyez qu'un légume appétissant, l'algorithme de Facebook, lui, y voit un contenu outrageusement sexy et sensuel qui n'a rien à faire sur sa plateforme.

Quand Gaze Seed Co., un magasin de semences et d'engrais au Canada, a posté une image sur Facebook d'un tas d'oignons pour promouvoir ses graines, l'entreprise a eu la surprise de découvrir que sa publication avait été bloquée par l'algorithme du réseau social. La raison? L'image a été jugée «ouvertement sexuelle» pour le filtre anti-nudité de la plateforme.

À regarder l'image de la publication, difficile d'y voir un aspect sexuel. «Je suppose que quelque chose dans les deux formes rondes [des oignons] pourrait être interprété comme des seins ou quelque chose comme ça», explique Jackson McLean, directeur de l'entreprise canadienne. Le texte au-dessus de l'annonce, décrivant l'oignon comme étant «extrêmement sucré, doux et gros», a peut-être été fatal à la publication.

L'erreur a finalement été repérée par Facebook quelque temps après et l'annonce a fini par être publiée. La variété de l'oignon, appelé Walla Walla, n'était pas connue par l'algorithme automatisé, ce qui peut peut-être expliquer le malentendu, précise à CBC Meg Sinclair, responsable des communications chez Facebook Canada.

Automatisation en question

Voir des seins dans un tas d'oignons révèle un problème bien plus large: celui de la modération automatisée de Facebook, qui montre clairement des failles.

Entre janvier et mars 2020, la plateforme a supprimé 39,5 millions de contenus montrant de la nudité, rapporte le Guardian. Au total, 99,2% d'entre eux ont été supprimés automatiquement par l'intelligence artificielle de la plateforme –visiblement avec de nombreuses erreurs.

Sur la même période, il y aurait en effet eu 2,5 millions d'appels contre ces suppressions et 613.000 publications ont finalement été restaurées.

Si Facebook a quelque peu du mal à filtrer les contenus sexuels sur sa plateforme, son algorithme semble encore plus à la peine quand il s'agit de filtrer les discours haineux et les fake news –ce qui est souvent reproché au géant du web.

Mark Zuckerberg, le fondateur du réseau social, avait admis en 2018 qu'il est «beaucoup plus facile de créer un système d'IA capable de détecter un téton que de déterminer ce qu'est un discours de haine». Dans le cas de l'oignon Walla Walla, c'est raté.

Newsletters

Les ados ne vont pas sur TikTok uniquement par narcissisme

Les ados ne vont pas sur TikTok uniquement par narcissisme

Contrairement à d'autres réseaux sociaux, TikTok a un fort potentiel créatif.

Cinquante-deux ans plus tard, IBM présente ses excuses pour avoir licencié une femme trans

Cinquante-deux ans plus tard, IBM présente ses excuses pour avoir licencié une femme trans

En août 1968, l'ingénieure en informatique Lynn Conway était virée en dépit de son travail prometteur et reconnu.

Nos métiers, quand internet et le télétravail n'existaient pas

Nos métiers, quand internet et le télétravail n'existaient pas

Avec la généralisation du télétravail, on oublie encore un peu plus à quoi ressemblaient nos métiers avant internet.

Newsletters