Tech & internet / Monde

Dans les coulisses du plus grand dépotoir au monde de déchets numériques

Temps de lecture : 7 min

Tweets haineux, scènes de violences, photos macabres... Chaque jour, les modérateurs de contenus visionnent et trient des milliers de publications signalées sur les réseaux sociaux.

L’aspect le plus éprouvant consiste à rester l’œil rivé sur un écran où s’affichent des images de corps déchiquetés et écartelés. | Gebrueder beetz filmproduktion
L’aspect le plus éprouvant consiste à rester l’œil rivé sur un écran où s’affichent des images de corps déchiquetés et écartelés. | Gebrueder beetz filmproduktion

«Supprimer… Ignorer… Supprimer...» Les modérateurs et modératrices de Manille sont sur le qui-vive. comme chaque jour, ils vont devoir analyser, en quelques secondes seulement, photos, vidéos et messages d’injures et décider ou non de leur suppression. Un travail sans fin, lorsqu’on sait que chaque minute, en moyenne, pas loin de trois millions de publications sont postées sur Facebook, 400 heures de vidéos mises en ligne sur YouTube et 450.000 tweets envoyés. L’aspect le plus éprouvant de leur métier consiste toutefois à rester, des heures durant, l’œil rivé sur un écran d’ordinateur, où s’affichent des images et des vidéos de corps déchiquetés et écartelés, d’enfants noyés ou violentés, sans compter le flot continu d’injures et d’appels aux meurtres.

C’est à ces petites mains du web que rend hommage The Cleaners, le premier documentaire de Moritz Riesewieck et Hans Block. Le film nous plonge dans le quotidien des modératrices et modérateurs philippins dont certains témoignages ont de quoi glacer le sang: il y a, par exemple, cette employée devenue experte dans «l’art» de la décapitation, qui, à force de visionnages, sait reconnaître dès le premier coup d’œil si une tête a été tranchée à coup de machette ou au couteau de cuisine… Cette autre se décrit comme une «sniper» et compare le visionnage de milliers de vidéos à «un virus envahissant son cerveau».

Un modérateur patriote compare son travail de «nettoyage» à celui de son président, Rodrigo Duterte qui, lui, «nettoie» le pays via une campagne «antidrogue» musclée qui a déjà coûté la vie à plus de 20.000 personnes. D’autres témoignages prêtent plus à sourire: une employée qui a appris que «ce qu’elle prenait pour une bonde de lavabo» était en vérité un sex-toy, avoue ne pas toujours être mécontente des «dick pics» qui affluent chaque jour sur son écran, «son petit plaisir coupable».

Pour ce qui est des responsables des réseaux sociaux, le documentaire donne la parole à Nicole Wong. Ancienne directrice juridique chez Twitter, également passée par Google, où elle était chargée d’arbitrer les questions de censure, elle évoque plusieurs affaires à la résolution complexe. Notamment la question de l’autocensure dans certains pays. Nicole Wong se rappelle avoir été réveillée «au milieu de la nuit» pour visionner des publications posant problème aux autorités turques, «du cas par cas», dit-elle, sans autre précision. Un autre sujet sensible sur lequel elle a dû trancher fut celui de la dépouille de Saddam Hussein. «Peu après son exécution en 2006, des images ont commencé à apparaître sur le web, notamment celles de sa pendaison et de son cadavre. Finalement, on a décidé de garder la première, parce qu’elle nous semblait un document historique et de filtrer la seconde.» Plus de dix ans après les faits, Nicole Wong ne semble toujours pas certaine de sa décision: «Je ne sais pas si nous avons fait le bon choix. L’Histoire nous le dira…».

Le «hotspot» de la modération de contenus

C’est la publication, en 2013, d’une vidéo montrant un enfant se faire maltraiter, partagée 600.000 fois et likée près de 4.000 qui a inspiré le film de Moritz Riesewieck et d’Hans Block. Passée leur consternation, les deux Allemands constatent que jusqu’alors ils n’ont «jamais vraiment réfléchi à ce qui se trouve derrière les réseaux sociaux et leur politique de modération». Ils commencent donc à enquêter sur le sujet et rencontrent Sarah T. Roberts, une spécialiste américaine de la science de l’information et des réseaux sociaux. C’est elle qui les met «sur la piste des Philippines, qu’elle décrit comme le “hotspot” de la modération de contenus».

Pourquoi les Philippines? La main d’œuvre y est bon marché et anglophone, un atout pour des géants du web américains. Mais pas seulement. Les deux réalisateurs ont été surpris de voir «le passé colonial du pays brandi comme un argument marketing». «Sur un clip de promotion pour une entreprise de Content Moderation (ou CM), le message était: après 400 ans de colonisation [espagnole de 1565 à 1897 et américaine de 1898 à 1946, ndlr], nous comprenons mieux que quiconque ce que les Occidentaux veulent. Ça pourrait être drôle si ce n’était pas si effrayant!»

«En vérité tout le monde peut devenir modérateur. Le recrutement se fait dans la rue.»

Durant deux ans, le duo se rend plusieurs fois à Manille. «En tout, on a passé six mois sur place pour tourner notre film. Le plus difficile était de protéger l’anonymat des employés qui acceptaient de témoigner. Tous ont signé une clause de non-divulgation. Les comptes Facebook de certains sont surveillés. Pour préserver au maximum leur sécurité, on a décidé de ne jamais montrer les visages de ceux qui travaillent toujours en tant que modérateurs.» Autre problème: où tourner? «Bien entendu, on n’allait pas filmer dans les locaux d’une entreprise. On a alors eu la chance inouïe de trouver, un peu par hasard, d'anciens bureaux abandonnés. On a les a loués au propriétaire de l’immeuble et on a pu commencer le tournage.»

Quand on lui demande quel est le plus court chemin pour devenir modérateur, la question fait rire Moritz: «C’est peut-être ça le plus drôle, ou le plus absurde, mais en vérité tout le monde peut devenir modérateur. Le recrutement se fait dans la rue. Même Hans et moi avons été approchés sur un trottoir! Et dix minutes plus tard, on se retrouvait attablés au fond d’un fast-food pour une sorte d’entretien d’embauche. Malheureusement, nous n’avions pas le bon visa de travail… Sinon, nous aurions tenté l’aventure. Il y a d’ailleurs beaucoup d’étrangers qui le font aux Philippines, parler une autre langue c'est un atout. On trouve par exemple beaucoup de Syriens, pour lesquels c’est plus facile de trouver un job là-bas qu’en Europe».

Quant aux autochtones employés, «ce sont en grande majorité des jeunes, des femmes (ce qu’on ne s’explique toujours pas), la plupart ayant fait des études supérieures. Presque tous vivent en banlieue et sont souvent le principal gagne-pain de leur famille».

Racheter les péchés du web

D'après Moritz et Hans, une ou un modérateur de contenus toucherait entre un et trois dollars de l’heure, sur la base de quarante heures par semaine, sans compter les heures sup, ce qui au total représente plus que le salaire moyen philippin, inférieur à 300 dollars mensuels, d’après les statistiques officielles. Cette «aisance» financière ne doit pas faire oublier que ces modérateurs sont d’abord «les victimes collatérales d’un système qui ne repose pas encore sur des bases solides. Ils font un véritable travail d’édition qui nécessiterait une formation ad hoc. Leur profil aussi devrait être plus diversifié pour pouvoir bien comprendre les enjeux politiques ou culturels d’un si grand nombre de pays».

Concernant le travail à proprement parler, les deux réalisateurs estiment aussi que les employés et employées devraient bénéficier de plus de temps pour visionner les vidéos, ce qui permettrait de réduire leur stress. «Le problème, c’est que vous ne pouvez pas prouver l’impact de ce job, le stress post-traumatique qu’il génère». Un jour, un employé leur a confié «qu’après le suicide d’un de ses collègues, on lui avait complètement lavé le cerveau. C’est le mot qu’il a utilisé [«brainwashed», ndlr]. Il nous a raconté que la direction les avait tous rassemblés dans une pièce pour leur signifier que ce drame était uniquement lié à des raisons personnelles et n’avait rien à voir avec son travail ici.» L'employé en question s’occupait de modérer des vidéos de suicide et d’automutilation…

Image extraite du documentaire The Cleaners. | Gebrueder beetz filmproduktion

Un autre élément qu'ils tiennent à souligner et qui permet de mieux comprendre pourquoi les Philippines sont à l’avant-garde de la modération de contenus est le rôle qui y est joué par la religion. Avec 80% de la population pratiquante, les Philippines sont le premier pays catholique d’Asie. «Se confronter à la cruauté du monde devient dès lors plus facile, plus légitime, parce que vous avez une narration qui donne sens à votre travail. Beaucoup d’employés parlent d’un sacrifice nécessaire, comme s’ils rachetaient en quelque sorte tous les péchés du web.» L’idée d’expiation est d’autant plus forte dans un pays où certains fidèles se flagellent, voire se crucifient le jour du Vendredi saint. Pour l’anecdote, Moritz et Hans se souviennent avoir vu les photos de l’inauguration d’un nouveau bureau de CM: «Un prêtre avait été invité pour bénir les lieux et prier avec les employés».

Avec leur film, ils souhaitent «que les personnes se servant des réseaux sociaux n’acceptent plus d’être appelées “utilisateurs” mais décident elles-mêmes de ce qui y est acceptable ou non». Ils ont aussi l’espoir de changer le regard sur la modération de contenu. «Nous-mêmes, en tournant ce documentaire, avons commencé à voir les choses différemment. Avant, on n’aurait jamais trouvé acceptable de publier des images de cadavres, mais maintenant notre avis sur la question a évolué, notamment avec le travail fait par Airwars». Cette ONG britannique utilise des vidéos ou des images publiées sur les réseaux sociaux pour dresser une cartographie exacte des combats et recenser le nombre de morts sur les zones de combats. Concernant la guerre en Syrie, elle considère que le nombre de victimes de la coalition internationale est plus élevé que celui communiqué par les chiffres officiels.

Le documentaire qui sera disponible sur Arte à la fin de l’été, n’a pas fait l’objet d’une sortie officielle aux Philippines. «On verra avec les salariés, c’est à eux de décider. En attendant, on a organisé des projections privées pour eux et leurs proches. C’était d’ailleurs très touchant car c’était souvent la première fois qu’il partageait cet aspect de leur vie avec leur famille. Par pudeur peut-être...»

Prochain épisode: les secrets de modération de Facebook, YouTube et les autres.

Adrienne Rey Journaliste

Opération net propre
Les obscurs secrets des règles de modération de Facebook

Épisode 2

Les obscurs secrets des règles de modération de Facebook

Pendant deux ans, il a nettoyé Facebook

Épisode 3

Pendant deux ans, il a nettoyé Facebook

Newsletters

Jet Li a refusé de jouer dans Matrix pour rester maître de ses mouvements

Jet Li a refusé de jouer dans Matrix pour rester maître de ses mouvements

L’acteur chinois redoutait de se faire déposséder de ses techniques d’arts martiaux si un studio américain les numérisait.

Suivez cette voiture (pour détecter une fraude sociale)

Suivez cette voiture (pour détecter une fraude sociale)

La technologie rend de plus en plus facile l’espionnage de citoyens et citoyennes ordinaires.

Faut-il croire à l'ordinateur quantique? Si oui, pour quand?

Faut-il croire à l'ordinateur quantique? Si oui, pour quand?

Dans cet épisode de DEMAIN. DÈS MAINTENANT, nous abordons une question assez vertigineuse, puisqu’il s’agit de l’ordinateur quantique. De quoi s’agit-il exactement? Faut-il y croire? Quel objectif peut justifier de relever un tel défi? Où en...

Newsletters