Tech & internet

Par inadvertance, Facebook a révélé les identités de ses modérateurs à des groupes terroristes

Repéré par Rodrigue Arnaud Tagnan, mis à jour le 17.06.2017 à 16 h 32

Six personnes ont été «hautement exposées» par cette défaillance technique.

Le logo de Facebook représenté sur l'écran lors du lancement du produit «Workplace» à Londres.10 octobre 2016. Justin Tallis/AFP

Le logo de Facebook représenté sur l'écran lors du lancement du produit «Workplace» à Londres.10 octobre 2016. Justin Tallis/AFP

Il s'agit sans doute de l'une des plus grosses défaillances sécuritaires du réseau social américain, exposant ainsi la vie de certains de ses employés. D'après les révélations du Guardian, l'affaire remonte à novembre 2016. Plus de 1.000 agents répartis dans 22 départements du groupe sont concernés. La plupart étaient chargés par Facebook de détecter et d'écarter les contenus inappropriés, dont la liste avait été établie par la charte d'éthique du réseau social. Parmi ces contenus inappropriés: la propagande terroriste.

Sur les 1.000 personnes, environ 40 relevaient de l'unité antiterroriste du siège européen de Facebook à Dublin. Après que le groupe a conclu que les profils de six d'entre eux avaient été probablement repérés par de présumés terroristes ou membres d'organisations listées comme telles, ces derniers ont été inscrits sur «la liste prioritaire de victimes potentielles» .

Exilé pendant cinq mois

Selon le Guardian, le bug faisait apparaître les profils personnels des modérateurs sous forme de notifications dans le journal d'activité des groupes terroristes censurés. Facebook explique avoir apporté des modifications postérieures pour «mieux détecter et prévenir ces types de problèmes».

«Nous nous soucions de la sécurité de nos employés, souligne le réseau social. Dès que nous avons appris l'incident, nous avons procédé à des corrections et nous avons lancé une enquête approfondie pour comprendre sur ce qui s'est réellement passé.»

Un des six modérateurs que le Guardian a contacté estime qu'«il devenait trop dangereux pour de rester à Dublin». Cet Irlandais d'origine irakienne faisait partie des centaines de modérateurs que Facebook a contractés via la société de sous-traitance Cpl Recruitment. Craignant pour sa vie et celle de sa famille, «il s'est enfui de l'Irlande pour s'exiler cinq mois en Europe de l'est, après avoir découvert que  sept individus associés à un groupe islamiste égyptien, soutien du Hamas, dont certains membres sont liés à l'État islamique avaient eu accès à son profil», rapporte le quotidien britannique.

«Lorsque vous venez d'une zone de guerre, vous savez que les gens sont massacrés pour cela, a-t-il déclaré. Ceux qui travaillent pour la lutte antiterroriste risquent la décapitation.»

Facebook n'a pas pris la mesure de cette menace

La plupart des modérateurs de contenus que Facebook emploie sont des sous-traitants mal rémunérés et qui travaillent dans des conditions extrêmement stressantes. D'après son témoignage, les six ont pris conscience qu'ils étaient devenus des cibles potentielles lorsqu'ils ont commencé à recevoir des demandes d'amitié de la part de gens affiliés aux organisations terroristes dont ils censuraient les publications. 

«Notre enquête a révélé que seule une petite fraction des noms était probablement vue, et nous n'avons jamais eu de preuves d'une menace pour les personnes touchées ou leurs familles à la suite de cette affaire», a estimé le réseau social. Insuffisant pour le modérateur concerbé. Revenu de son exil le mois dernier, il a déposé plainte contre le groupe et la société de sous-traitance Cpl Recruitment pour «préjudice moral» subi : «Je n'ai plus d'emploi, je vis dans l'angoisse.» Aujourd'hui, il souhaite être dédommagé à la hauteur de son préjudice.

En poursuivant votre navigation sur ce site, vous acceptez l’utilisation de cookies pour réaliser des statistiques de visites, vous proposer des publicités adaptées à vos centres d’intérêt et nous suivre sur les réseaux sociaux. > Paramétrer > J'accepte