Tech & internet

Pendant deux ans, il a nettoyé Facebook

Temps de lecture : 8 min

Nicola, jeune Berlinois originaire d'Amérique du Sud et modérateur pour un sous-traitant du réseau social, a été confronté chaque jour à la pornographie, la haine et la violence, mais aussi à des choix cornéliens.

Chaque jour, Nicola avait 100 contenus différents à modérer. | Photo TheDigitalArtist via Pixabay CC0
Chaque jour, Nicola avait 100 contenus différents à modérer. | Photo TheDigitalArtist via Pixabay CC0

Si les Philippines sont la plaque tournante asiatique de la modération de contenus, Berlin est celle de l’Europe, notamment via Arvato, filiale du groupe Bertelsmann (géant des médias, société mère de RTL group). Spécialisé dans la gestion de relation client, la logistique et le marketing, ce prestataire de service, qui d’après son site web, emploie près de 70.000 personnes dans le monde, a notamment pour clients français EDF ou Orange.

Bien que beaucoup moins déplorables que celles de leurs homologues philippins (voire notre premier épisode), les conditions de travail des modérateurs d’Arvato ne sont pas pour autant exemptes d’opacité, d’un manque de considération et d’un culte certain du secret. C’est ce que nous confie un ancien employé de l’entreprise berlinoise qui a accepté de témoigner sous couvert d’anonymat.

«Easy work, easy money»

Originaire d’Amérique du Sud, Nicola [son prénom a été modifié ndlr], tout juste la trentaine, vit à Berlin depuis une dizaine d’années, où il a surtout bossé dans le service et la restauration. C’est par le biais d’un ami qu’il entend parler du job de «cleaner » pour lequel maîtriser l'allemand n’est pas requis. Une promesse de «easy work, easy money» qui a tôt fait de le séduire. Il entre chez Arvato en 2016 et y restera pas loin de deux ans. À l’époque, l’entreprise compte entre 150 et 200 employés, contre près de 1.000 aujourd’hui. Et les recrutements se poursuivent.

L’entretien d’embauche laisse un peu Nicola sur sa faim: «Est-ce qu’il aime les réseaux sociaux?» « Oui?», Parfait, cela suffira. De son futur employeur, il ne sait rien, pas même le nom. Au terme de son entretien, il devine pourtant «qu’il s’agit d’une grosse plateforme», à ce moment-là, il pense «à Instagram ou Facebook».

C’est seulement lorsque débute son training que son pressentiment se confirme: c’est bel et bien pour Facebook qu’il travaillera. Pendant un mois, il se familiarise avec le job via l’apprentissage des directives du réseau social en matière de modération, beaucoup d’exercices et quelques photos tests. «Le paquet était vraiment mis sur les instructions: ce qui est «ok», ce qui doit être supprimé. Je ne pourrais pas l’affirmer avec certitude, mais ça semblait assez nouveau à l’époque… Je pense que ça faisait alors à peine six mois que Facebook avait transmis ses directives à Arvato.»

Clause de confidentialité

Sur son contrat, Nicola est embauché en qualité de «Kundenberater», conseiller clientèle. Aucune mention de «content moderator» ou de quelque intitulé s’en rapprochant. Il doit signer une clause de confidentialité, lui interdisant de parler de son travail à sa famille ou à ses amis proches, au risque de s’exposer à des poursuites judiciaires. Autrement dit, ce qui se passe entre les murs d’Arvato reste chez Arvato…

Pour 1.300 euros par mois, Nicola supprime des contenus signalés sur le réseau social, classés selon quatre grandes familles: publication (post), images ou photographies, vidéos et partages (shares). Le quota à atteindre est de «100 tickets» la journée, un ticket correspondant à l’un de ces éléments. Un objectif plutôt simple à atteindre pour Nicola qui prend entre 20 secondes et deux minutes pour analyser un ticket. Aucun quota ni bonus ne sont prévus, il s’agit seulement d’être productif et précis.

En matière de volume à traiter, la première catégorie est celle du «hate speech» (discours de haine), vient ensuite la «graphic violence» (violence explicite) et la «sexual sollicitation» (photos de parties génitales, racolage, contenus pornographiques). La pédopornographie forme une catégorie à part.

Pornographie, haine et violence

Le contenu des vidéos change au gré des actualités: la guerre en Syrie offre son lot de vidéos et d’images violentes, le référendum sur l’indépendance de la Catalogne ses discours de haine. Les attaques terroristes et la propagande de l’État islamique génèrent également beaucoup de contenus. J’ai vu beaucoup de vidéos de décapitations» confie Nicola, même si ce n’est pas ce qui le touchait le plus: «Malheureusement, j’en ai déjà trop vu dans mon pays d’origine». Le plus éprouvant pour lui, c’était la pédopornographie.

La catégorie qui lui demande le plus de fil à retordre, ce sont les vidéos: «En règle générale, elles sont plus dures à traiter, car plus violentes, et s’avèrent aussi plus dures à classifier: parfois, dans les premières minutes du film, quelqu’un est juste en train de réparer son vélo et il faut attendre les dernières secondes pour l’entendre crier «Fuck Americans» ou un truc du genre et il faut alors que je supprime».

Pour Nicola, la gestion des vidéos souffre d’un manque certain de professionnalisme: «Sans parler d’amateurisme, on avait parfois l’impression de devoir prendre une décision à l’instant T, sans être préparé à tous les cas de figures pouvant se présenter». Il se souvient particulièrement de la diffusion live d’un assassinat: «Un homme tue un homme plus âgé dans la rue. C’était inédit. Il fallait réagir. Bien entendu, ça allait être supprimé. Mais dans ces moments-là, ça devient viral, c’est facile à repérer, mais il faut faire vite. Il a fallu qu’on mobilise une petite équipe spéciale de 6 ou 7 personnes sur cette vidéo».

Moins dramatique, cette image montrant une femme torse-nue: «Ls tétons étaient visibles, donc d’abord ça a été interdit, puis finalement ça a été autorisé et ça a abouti à une nouvelle directive sur la nudité». Un système action-réaction qui, sans être la norme, reste très fréquent: «C’est la même chose avec les discours de haine, à un moment c’est du "free speech" (liberté d’expression), à un autre ça ne l’est pas. C’est souvent "borderline" et la "border" ( frontière) elle est très fine. Parfois même, ça passe inaperçu, c’est le cas avec les insultes dans des argots locaux ou très régionalisés que le modérateur ne connaît pas.» Avec une plateforme aussi interactive et du contenu si varié, les chocs culturels ne sont pas rares. Nicola se rappelle la photo d’une jeune femme en sous-vêtements avec une pancarte: «Massage, call me»: «Pour moi, c’était du racolage, ça ne faisait aucun doute et je pense que ça l’est pour beaucoup de Sud-Américains, mais c’était autorisé par les directives, alors j’ai suivi la procédure ».

«Fais le taff, prends l’argent et fais ta vie!»

Psychologiquement, Nicola l’affirme, il n’a pas été atteint. D’ailleurs, il l’avoue, la seule fois où il a fait appel à l’assistance sociale, c’est lorsqu’on lui a proposé de changer de poste. «Ça ressemblait à une promotion, mais au final ça représentait davantage de contenus à visionner pour le même salaire. Comme je voulais refuser, je me suis plaint de mal dormir, de faire beaucoup de cauchemars et de boire un peu plus que d’habitude.» S’il vit son travail plutôt bien, c’est en partie grâce au mantra qui l’accompagne chaque jour sur le chemin d’Arvato: «Fais le taff, prends l’argent et fais ta vie!» Mais tout le monde n’a pas une amulette pour se prémunir du mauvais sort. «J’avais des collègues qui étaient très sensibles à une catégorie en particulier, ça pouvait être la violence contre les animaux ou l’automutilation, en fonction du vécu de chacun, mais cela créait des situations assez difficiles à vivre

«J’avais des collègues qui étaient très sensibles à une catégorie en particulier, ça pouvait être la violence contre les animaux ou l’automutilation, en fonction du vécu de chacun, mais cela créait des situations assez difficiles à vivre.»

Pour détendre l’atmosphère, on rit pas mal pendant les pauses «pour soulager le stress, nous détendre, on blague beaucoup, des blagues sur le sexe et la nudité auxquels nous sommes sans arrêt confrontés». La moyenne d’âge est plutôt jeune: «entre 23 et 35 ans» à l’époque où Nicola y travaillait. Beaucoup d’employés sont originaires, comme lui, d’Amérique du Sud: «Peu avant que je quitte Arvato, bon nombre des nouvelles recrues arrivaient du Venezuela, du Chili ou d’Argentine».

L’ambiance se tend légèrement lorsque le gouvernement allemand fait passer une loi qui exige des réseaux sociaux une plus grande vigilance et promptitude dans le traitement des contenus illicites de leur plateforme. Il est ainsi prévu de sanctionner à hauteur de 50 millions d’euros ceux qui ne se plieraient pas à la règle, en ne supprimant pas fake news et discours de haine.

Peu de temps après l’entrée en vigueur de cette loi, au printemps 2018, une commission d’inspecteurs se rend dans les locaux d’Arvato. Nicola nous révèle que ses supérieurs auraient alors sciemment orienté les inspecteurs vers le bureau «allemand» où l’on traite «beaucoup de discours de haine, mais pas les trucs vraiment durs qu’on gère au bureau latino-américain avec la brutalité des gangs et des narcotrafiquants, ou ceux du bureau arabe où, avec le terrorisme et la guerre en Syrie, les contenus sont très violents».

Extrait du documentaire "The cleaners", de Moritz Riesewieck et Hans Block | Gebrueder beetz filmproduktion

«C’est devenu le chaos »

«Un jour on a eu une fuite. Quelqu’un est allé voir la presse. On ne savait pas qui c’était, mais c’est immédiatement devenu le chaos au bureau! Arvato avait peur de perdre son contrat avec Facebook. Ils n’arrêtaient pas de répéter: "Ne dites rien, ne parlez pas!" L’usage de nos téléphones portables a été réglementé, ce qui n’avait jamais été fait jusque là».

La consigne: ne plus parler. «Parfois, ils disaient que c’était pour notre sécurité, à cause des nombreux contenus de l’État islamique qu’on supprimait. Et puis à la même époque, l’un des responsables du secteur arabe a été retrouvé mort chez lui. Pourquoi? Comment? Par qui? Je ne l’ai jamais su. Je ne pense pas que c’était lié à son travail chez Arvato, mais cela n’a fait que tendre encore un peu plus l’atmosphère».

Après avoir passé presque deux ans au sein de l’entreprise, Nicola a décidé de quitter ce job devenu fatigant et monotone pour un travail mieux rémunéré. De son expérience chez Arvato, il tire tout de même quelques points positifs: «Aujourd’hui, je sais comment marche Facebook, tout ce qui se trouve derrière la plateforme. Si je voulais, je saurais très bien poster quelque chose qui trompera la modération, même si je n’en ai évidemment pas l’intention».

Sur l’entreprise elle-même, il juge que le «besoin en modérateurs croît beaucoup plus vite que ses capacités actuelles.» Aujourd’hui, Nicola souhaite que ce travail soit mieux rémunéré et davantage considéré: «Avec un statut de conseiller clientèle, il devient certainement plus difficile de faire jouer ses droits». Reste aussi le sentiment étrange d’avoir souvent été «le premier point de contact entre la réalité et les médias en ligne.» Nicola se rappelle que lors de l’attentat du marché de Noël à Berlin, il l’a su «bien avant que ça sorte dans les médias traditionnels.» Preuve selon lui que «Facebook est aujourd’hui le média le plus rapide et le plus facilement accessible du monde».

Adrienne Rey Journaliste

Opération net propre
Dans les coulisses du plus grand dépotoir au monde de déchets numériques

Épisode 1

Dans les coulisses du plus grand dépotoir au monde de déchets numériques

Les obscurs secrets des règles de modération de Facebook

Épisode 2

Les obscurs secrets des règles de modération de Facebook

Newsletters

Comment réinventer l’innovation?

Comment réinventer l’innovation?

À force de répéter que l’innovation est indispensable pour survivre et se développer dans le monde actuel, le mot s’est banalisé au point de conduire aujourd’hui à s’interroger sur son sens. En effet, face à ce bouillonnement permanent d...

Aux États-Unis, Amazon et la police piègent les voleurs avec des GPS dans les colis

Aux États-Unis, Amazon et la police piègent les voleurs avec des GPS dans les colis

La police américaine a décidé d'être plus ingénieuse que les voleurs.

Non, des graphistes n'auraient pas pu créer un emoji Corsica pour quelques centaines d'euros

Non, des graphistes n'auraient pas pu créer un emoji Corsica pour quelques centaines d'euros

En validant un budget de 52.800 euros pour l'opération «emoji Corsica», l'Assemblée de Corse a défrayé la chronique. Mais selon le porteur du projet, il s'agit là du juste prix.

Newsletters