Tech & internet

Un documentaire révèle les coulisses des modérateurs Facebook

Temps de lecture : 3 min

Des journalistes sous couverture ont enquêté sur la politique de modération du réseau social pour la chaîne de télévision britannique Channel 4.

Bande annonce, Inside Facebook: Secrets of a Social Network  | Capture d'écran via Youtube CC License by
Bande annonce, Inside Facebook: Secrets of a Social Network | Capture d'écran via Youtube CC License by

Images et vidéos violentes impliquant des enfants, propos haineux ou racistes... Facebook met parfois plus de temps à réagir face à ces cas que pour une malencontreuse paire de seins. Pour essayer de comprendre cette politique de modération, des journalistes se sont infiltrés dans un centre de modération sous-traitant du réseau social, au Royaume-Uni, et ont notamment filmé le processus de formation du personnel.

Leur documentaire Facebook: Secrets of the Social Network, diffusé ce mardi soir sur Channel 4 et déjà visionné par The Independent, prouve que certaines pages ouvertement racistes ou islamophobes bénéficient d'une sorte de «protection spéciale».

On apprend alors que les posts signalés ne sont pas immédiatement ou automatiquement retirés du site. Les modérateurs et modératrices sont formées à supprimer les contenus racistes ou haineux à l'intention d'un groupe éthnique ou religieux. En revanche, les consignes ne sont pas aussi simples pour les personnes issues de ces même groupes. Si un post vise les immigrés musulmans, il est toléré et considéré comme une déclaration politique. De la même façon, des propos haineux ou racistes peuvent ne pas faire l'objet de directives de modération s'ils sont diffusés sous forme d'animés.

Normalement, tout ce qui est signalé par les internautes doit être vérifié sous vingt-quatre heures, mais ces délais sont rarement respectés, laissant des vidéos de menaces de suicides non-vérifiées pendant plusieurs jours. Channel 4 a observé que la plupart des posts ne sont pas retirés même s'ils contiennent des attitudes violentes ou extrêmes. Aussi, il est rare que les informations soient diffusées à la police, à moins d'une diffusion en direct de la part de l'émetteur.

Traitement spécial

Certaines pages comme celle du militant d'extrême droite britannique Tommy Robinson, arrêté et condamné à treize mois de prison alors qu'il diffusait des images d'un tribunal en direct sur Facebook, font preuve d'un traitement spécial. Le signalement de leur contenu est transféré à des salariés de Facebook.

Si certaines pages sont modérées différemment des autres, c'est souvent parce qu'elles ont un nombre d'abonnés et abonnées tel que les profits engrangés deviennent un enjeu. La page de Tommy Robinson compte plus de 900.000 fans.

Richard Allen, le vice-président des politiques Facebook, admet le traitement de faveur de ces pages tout en expliquant que «ce n'est pas une question d'argent mais une discussion autour des discours politiques». Pour lui, «les gens débattent de sujets très sensibles sur Facebook, comme l'immigration. Et ce débat politique est tout à fait légitime».

Ceux qui rapportent

Dans le documentaire, Roger McNamee, l'un des premiers à avoir investi dans l'entreprise, explique que le réseau social a besoin de ce type de contenus pour conserver ses utilisateurs et utilisatrices: «Facebook a compris qu'il était intéressant d'avoir des gens qui passent plus de temps sur le site avec un modèle économique basé sur la publicité». Les extrémistes seraient aussi les plus rentables: «Facebook a appris que [ces] personnes sont celles qui rapportent le plus parce qu'une personne extrême peut en provoquer cinquante ou cent alors ils en veulent autant qu'ils peuvent».

Pour Julian Knight, un député britannique membre du comité consultatif numérique, «Facebook a montré qu'il voulait réduire les fake news et améliorer ses politiques de protection des données, ce qui est bienvenu. Mais il ne semble pas prêt à sacrifier les profits réalisés grâce aux contenus extrêmes».

Richard Allen nie ces accusations, mais admet à The Independent qu'«il est clair que ce qui est montré dans le programme ne reflète pas la politique ni les valeurs de Facebook, et ne respecte pas nos standards élevés».

«Nous prenons ces erreurs dans notre processus de formation et d'exécution très au sérieux et nous sommes reconnaissants aux journalistes d'avoir amené cela à notre attention. Quand nous savons que nous avons commis des erreurs, nous agissons immédiatement. Nous allons renforcer les processus de formation et travaillons à comprendre exactement ce qu'il s'est passé pour pouvoir le rectifier.»

Slate.fr

Newsletters

Le nouveau visage des avortements clandestins

Le nouveau visage des avortements clandestins

Alors que le droit à l’IVG est menacé aux États-Unis, des activistes s’organisent, en proposant des solutions parfois risquées.

Les compagnies d’assurance veulent vous voir vivre vieux (pour gagner plus d'argent)

Les compagnies d’assurance veulent vous voir vivre vieux (pour gagner plus d'argent)

L’une d’entre elles pousse sa clientèle à lui fournir les données recueillies par les bracelets connectés et les applis de santé.

Des oiseaux espions pour lutter contre la pêche illégale

Des oiseaux espions pour lutter contre la pêche illégale

Repérer les responsables de pêche illégale dans les eaux internationales n’est pas chose aisée… à moins d’utiliser des drones et des oiseaux équipés d’appareils d’espionnage.

Newsletters