Tech & internet

Un documentaire révèle les coulisses des modérateurs Facebook

Temps de lecture : 3 min

Des journalistes sous couverture ont enquêté sur la politique de modération du réseau social pour la chaîne de télévision britannique Channel 4.

Bande annonce, Inside Facebook: Secrets of a Social Network  | Capture d'écran via Youtube CC License by
Bande annonce, Inside Facebook: Secrets of a Social Network | Capture d'écran via Youtube CC License by

Images et vidéos violentes impliquant des enfants, propos haineux ou racistes... Facebook met parfois plus de temps à réagir face à ces cas que pour une malencontreuse paire de seins. Pour essayer de comprendre cette politique de modération, des journalistes se sont infiltrés dans un centre de modération sous-traitant du réseau social, au Royaume-Uni, et ont notamment filmé le processus de formation du personnel.

Leur documentaire Facebook: Secrets of the Social Network, diffusé ce mardi soir sur Channel 4 et déjà visionné par The Independent, prouve que certaines pages ouvertement racistes ou islamophobes bénéficient d'une sorte de «protection spéciale».

On apprend alors que les posts signalés ne sont pas immédiatement ou automatiquement retirés du site. Les modérateurs et modératrices sont formées à supprimer les contenus racistes ou haineux à l'intention d'un groupe éthnique ou religieux. En revanche, les consignes ne sont pas aussi simples pour les personnes issues de ces même groupes. Si un post vise les immigrés musulmans, il est toléré et considéré comme une déclaration politique. De la même façon, des propos haineux ou racistes peuvent ne pas faire l'objet de directives de modération s'ils sont diffusés sous forme d'animés.

Normalement, tout ce qui est signalé par les internautes doit être vérifié sous vingt-quatre heures, mais ces délais sont rarement respectés, laissant des vidéos de menaces de suicides non-vérifiées pendant plusieurs jours. Channel 4 a observé que la plupart des posts ne sont pas retirés même s'ils contiennent des attitudes violentes ou extrêmes. Aussi, il est rare que les informations soient diffusées à la police, à moins d'une diffusion en direct de la part de l'émetteur.

Traitement spécial

Certaines pages comme celle du militant d'extrême droite britannique Tommy Robinson, arrêté et condamné à treize mois de prison alors qu'il diffusait des images d'un tribunal en direct sur Facebook, font preuve d'un traitement spécial. Le signalement de leur contenu est transféré à des salariés de Facebook.

Si certaines pages sont modérées différemment des autres, c'est souvent parce qu'elles ont un nombre d'abonnés et abonnées tel que les profits engrangés deviennent un enjeu. La page de Tommy Robinson compte plus de 900.000 fans.

Richard Allen, le vice-président des politiques Facebook, admet le traitement de faveur de ces pages tout en expliquant que «ce n'est pas une question d'argent mais une discussion autour des discours politiques». Pour lui, «les gens débattent de sujets très sensibles sur Facebook, comme l'immigration. Et ce débat politique est tout à fait légitime».

Ceux qui rapportent

Dans le documentaire, Roger McNamee, l'un des premiers à avoir investi dans l'entreprise, explique que le réseau social a besoin de ce type de contenus pour conserver ses utilisateurs et utilisatrices: «Facebook a compris qu'il était intéressant d'avoir des gens qui passent plus de temps sur le site avec un modèle économique basé sur la publicité». Les extrémistes seraient aussi les plus rentables: «Facebook a appris que [ces] personnes sont celles qui rapportent le plus parce qu'une personne extrême peut en provoquer cinquante ou cent alors ils en veulent autant qu'ils peuvent».

Pour Julian Knight, un député britannique membre du comité consultatif numérique, «Facebook a montré qu'il voulait réduire les fake news et améliorer ses politiques de protection des données, ce qui est bienvenu. Mais il ne semble pas prêt à sacrifier les profits réalisés grâce aux contenus extrêmes».

Richard Allen nie ces accusations, mais admet à The Independent qu'«il est clair que ce qui est montré dans le programme ne reflète pas la politique ni les valeurs de Facebook, et ne respecte pas nos standards élevés».

«Nous prenons ces erreurs dans notre processus de formation et d'exécution très au sérieux et nous sommes reconnaissants aux journalistes d'avoir amené cela à notre attention. Quand nous savons que nous avons commis des erreurs, nous agissons immédiatement. Nous allons renforcer les processus de formation et travaillons à comprendre exactement ce qu'il s'est passé pour pouvoir le rectifier.»

Slate.fr

Newsletters

Google traque tous ses usagers… même ceux qui désactivent leur localisation

Google traque tous ses usagers… même ceux qui désactivent leur localisation

Deux milliards d’utilisateurs seraient affectés.

Il a fallu 10 minutes à un enfant de 11 ans pour pirater les résultats d’une élection américaine

Il a fallu 10 minutes à un enfant de 11 ans pour pirater les résultats d’une élection américaine

Et si, finalement, rien ne valait le bon vieux bulletin de vote en papier?

Pour les employés de Facebook, c’est la fin de la nourriture gratuite

Pour les employés de Facebook, c’est la fin de la nourriture gratuite

La commune de Mountain View en Californie a décidé qu'il était temps de défendre ses commerçants.

Newsletters