Tech & internet

Pour éviter la censure, les racistes américains remplacent leurs insultes par des codes

Temps de lecture : 3 min

Google prévoit de lancer une intelligence artificielle pour bloquer leurs messages. Les trolls répondent de la manière la plus diabolique possible.

troll | Steve Johnson via Flickr CC License by
troll | Steve Johnson via Flickr CC License by

L'extrême droite n'a pas dit son dernier mot. Alors que Google est en train de construire une intelligence artificielle pour repérer les trolls et supprimer certains de leurs commentaires, et que Twitter commence à s'en prendre doucement (très doucement) à ce type de discours, certains ont déjà trouvé une solution.

Ces deux images sont des captures d'une conversation sur 4chan, et d'une recherche sur Twitter. L'idée consiste à remplacer certains mots utilisés comme insultes par d'autres plus classiques pour éviter de voir son message supprimé ou son compte suspendu par une machine, qui ne comprendra pas les subtilités du langage.

Comme l'explique Know Your Meme, ces messages ne sont pas isolés. Ils font partie d'une opération plus large, appelée «Opération Google». Tout a commencé le 21 septembre, selon le site internet spécialisé, dans une discussion sur /pol/, l'imageboard politiquement incorrect de 4chan.

Troller les intelligences artificielles, une vieille habitude

Visiblement inquiets par l'intelligence artificielle de Google capable de «trouver, supprimer et bloquer des millions de commentaires sexistes, racistes, et homophobes et anti-immigrants chaque seconde» (en fait, elle ne fonctionne pas encore aussi bien), un utilisateur assure que pour ne pas se faire repérer, il suffirait que «des connards sur internet utilisent un nom commun au lieu de quelque chose de raciste, comme s'ils utilisaient “google” au lieu de “négros”. Et là ils feraient quoi putain?»

Objectif, troller Google pour l'obliger à faire un choix entre bloquer son propre nom ou laisser les trolls dire des choses plus immondes que d'autres dans les commentaires.

Il faut dire que les trolls ont l'habitude de s'amuser avec les intelligences artificielles. En mars dernier, celle de Microsoft inscrite sur Twitter était devenue conspirationniste en à peine vingt-quatre heures. Elle avait tenu des propos racistes et s'était parfois transformé en soutien affiché de Donald Trump, simplement après avoir quelques heures à parler avec des gens sur Twitter.

Pour en revenir à Google, plusieurs posters ont vite été partagés ensuite sur différents imageboards comme 8chan et son board /pol/. Comme l'indique ce résumé publié dès le début de l'affaire, avec tout cela, «Google est sur le point de devenir le nouveau visage du racisme».

Googles, Skypes, Bings et Skittles

Et très vite, une liste de mots a été créée pour que toutes les minorités puissent être harcelées équitablement. Les Juifs deviennent des Skypes, les Mexicains des Yahoos, les Chinois des Bings, les musulmans et les arabes des Skittles en référence au subtil tweet de Donald Trump Jr., les gays des papillons, et ainsi de suite.

On se retrouve donc ensuite avec ce genre de tweets:

Contactés par divers sites, Google et Twitter n'ont pas encore souhaité réagir.

C'est loin d'être la première fois que l'extrême droite et ce que l'on appelle l'alt-right décident d'utiliser des noms de code pour faire passer leur message. En juin, Mic racontait que nombre d'entre eux mettaient trois parenthèses autour des noms de personnes juives (ou dont le nom a l'air juif) pour les identifier tout en se cachant à la lumière de tous.

Après la publication de l'article de Mic, plusieurs cibles de ces attaques, ainsi que des personnes qui voulaient leur apporter leur soutien avaient décidé d'ajouter des parenthèses directement autour de leur nom en guise de défiance.

Marchera, marchera pas?

Reste que, comme le souligne Quartz pas sûr que la nouvelle technique employée par les trolls ne soit très efficace.

«L'algorithme du moteur de recherche utilise des techniques de machine learning sophistiquées, qui seront capables d'identifier, à un large degré, le sens dans lequel les mots sont utilisés. Il saura très bien si “google” est le nom de l'entreprise ou une insulte raciale en fonction du contexte.»

Pour cela il va falloir cependant attendre. Dans son article, le journaliste de Wired racontait que l'intelligence artificielle de Google allait parfois trop loin et s'attaquait à des messages qui n'avaient pas vraiment lieu d'être visés, ce qui laisse entendre qu'en l'état actuel des choses, il faudrait sans doute avoir une supervision humaine derrière pour être sûr de ne pas censurer des messages qui n'ont pas lieu de l'être.

Mais d'ici-là, la plupart des gens sur internet sauront à quoi font référence ces mots. Et ces termes risquent de se retourner contre leurs utilisateurs, explique Quartz:

«Quand un tel code se met à être connu, c'est plus facile pour que leurs utilisateurs soient “shamés” ou ignorés par leurs pairs. C'est ce qui est arrivé avec Pepe la Grenouille, la mascotte de l'alt-right, qui est passé de symbole underground du racisme à symbole officiel de la haine, comme certifié par la ligue antidiffamation américaine.»

La même chose s'était produite avec les Juifs (et leurs soutiens) qui s'étaient réappropriés les triple-parenthèses. Mais en attendant, précise le site internet, «faites attention à vous. Les trolls sont à l'affût».

Newsletters

Un jeu vidéo de simulation permet d'incarner le Christ

Un jeu vidéo de simulation permet d'incarner le Christ

Créé par un studio polonais, «I am Jesus Christ» est un jeu «réaliste» basé sur le Nouveau Testament, avec «plus de trente miracles» à découvrir.

Dernière stratégie publicitaire en vogue: les mèmes

Dernière stratégie publicitaire en vogue: les mèmes

Une appropriation des blagues des jeunes qui permet aux marques de se donner une image cool, accessible et humaine sur les réseaux sociaux.

Vous avez toujours rêvé de voir comme un chat? C'est désormais possible

Vous avez toujours rêvé de voir comme un chat? C'est désormais possible

Des scientifiques ont créé un logiciel pour percevoir le monde avec la vision d'une abeille, d'un poisson ou encore d'un chat.

Newsletters