Tech & internet

Les étranges règles de Facebook pour censurer les contenus racistes

Temps de lecture : 2 min

Selon Facebook, les insultes contre les hommes blancs doivent être censurées, pas celle contre les enfants noirs.

LEON NEAL/AFP
LEON NEAL/AFP

Le site d'investigation ProPublica a enquêté sur la façon dont Facebook forme ses modérateurs chargés de censurer les contenus racistes, et plus généralement tous les discours de haine, postés sur le réseau social.

Pour un test de formation, Facebook demande à ses modérateurs d'identifier la catégorie de personnes que le réseau social se doit de protéger en censurant certaines insultes à leur encontre. Les trois choix sont: les femmes au volant, les hommes blancs ou les enfants noirs. Etonnamment, la bonne réponse selon Facebook est «les hommes blancs», seule catégorie protégée parmi les trois.

Le raisonnement derrière ce choix est assez étrange. Facebook a en effet décidé que devaient être effacées toutes les attaques basées sur la race, le genre, l'identité de genre, la religion, l'origine nationale, l'ethinicité, l'orientation sexuelle, le handicap et la maladie.

Donc des insultes contre les blancs, les noirs, les chinois ou les homosexuels seront censurées. Mais les choses se compliquent. Facebook a aussi une liste de catégories non protégées: on peut insulter les gens en fonction de leur âge, de leur apparence, de leur classe sociale, de leur emploi, de leur origine géographique. Les pays, les idéologies politiques et les religions peuvent aussi être insultées sans censure.

Or, selon les règles Facebook en vigueur, si un groupe de personnes appartient à la fois à une catégorie protégée et à une catégorie non protégée, alors ce groupe n'a pas à être protégé. C'est donc selon cette logique que les enfants noirs ne sont pas considérés comme à protéger contre les discours de haine.

Défendre le monde

Cette charte a été créée pour défendre tout le monde de manière égale, sans distinction particulière pour les minorités qui seraient plus à risque. L'idée est que les mêmes règles puissent être appliquées partout dans le monde.

Ces règles permettent de comprendre certaines décisions de Facebook en matière de censure. Après l'attaque terroriste de Londres en juin, un représentant au Congrès américain a appelé au meurtre des musulmans «radicalisés». Son post n'a pas été censuré. En mai, une poète afro-américaine a écrit que «tous les blancs étaient racistes» et son texte a été effacé.

Selon la logique de Facebook, des musulmans radicalisés ne sont pas protégés car ils font partie du sous-groupe «radicalisés» alors que les blancs sont protégés car c'est un groupe plus large.

Dans Slate.com, Jacob Brogan résume ainsi le problème:

«Facebook ne comprend pas comment fonctionnent les discours de haine. Le potentiel blessant d'un discours dépend du niveau de marginalité de ceux qu'il vise. S'il est certainement possible, par exemple, de dire des choses horribles sur les hommes blancs, ces insultes auront rarement le même poids que celles faites contre des groupes qui sont déjà menacés».

Slate.fr

Newsletters

Souriez, Facebook regarde votre famille

Souriez, Facebook regarde votre famille

Le réseau social veux scanner vos profils pour mieux connaître votre foyer.

Va-t-il falloir économiser les données comme l’énergie?

Va-t-il falloir économiser les données comme l’énergie?

La quantité de données produite à l’ère du numérique croit de façon exponentielle. L’humanité produit ainsi en deux jours autant de données qu’au cours des deux derniers millions d’années. Les études révèlent des chiffres astronomiques: en 2020, l...

Les vidéos virales de recettes accentuent le phénomène de simplification de la cuisine

Les vidéos virales de recettes accentuent le phénomène de simplification de la cuisine

Les produits utilisés dans ces séquences, inoffensives en apparence, sont très souvent trop gras, sucrés et salés.

Newsletters