Tech & internet / Monde

Le nouvel algorithme qui censure la propagande djihadiste, un outil efficace?

Temps de lecture : 2 min

Le logiciel eGLYPH peut reconnaître et censurer les contenus djihadistes sur Internet, mais est-ce la bonne stratégie?

En juin, une organisation américaine de lutte contre l'extrémisme a annoncé la création d'eGLYPH, un logiciel qui repère et élimine les contenus pro-terrorisme en ligne. Selon le Counter Extremism Project, cet algorithme «réduira fortement la capacité des extrémistes et des terroristes à utiliser internet pour radicaliser, recruter et inciter à la violence.»

Depuis plusieurs années, les gouvernements français, anglais, allemands et américains tentent de travailler sur la question de la propagande djihadiste avec les géants du Web et les réseaux sociaux. Twitter a récemment fait des efforts: de février à août, le réseau social a suspendu 235.000 comptes qui faisaient l'apologie du terrorisme. Selon Mark Wallace, le directeur du Counter Extremism Project, qui était ambassadeur auprès de l'ONU sous George W. Bush, cet algorithme pourrait avoir un effet positif. Interviewé par The Verge, il explique:

«Si un groupe extrémiste sait qu'au moment où ils essayent de poster une vidéo en ligne, elle sera immédiatement effacée et ne pourra pas devenir virale, alors poster ce genre de choses n'aura peut être plus de sens car ils ne pourront plus atteindre leurs buts en matière de propagande.»

Le logiciel eGLYPH a été développé par Hany Farid de Dartmouth University, qui a aussi créé PhotoDNA, un logiciel qui permet de repérer la pédopornographie. Les deux algorithmes fonctionnent de manière similaire, mais eGLYPH permet aussi de repérer des vidéos et de l'audio. Le logiciel est encore en phase de test mais sera bientôt mis gratuitement à disposition des réseaux sociaux, qui ont déjà commencé à utiliser d'autres systèmes de détection automatique.

Sauf que contrairement à la pédopornographie, certains contenus de propagande djihadiste méritent peut être d'être vus. Par exemple, si les médias évitent en général les images violentes, beaucoup ont montré des extraits de propagande de Daech. Pour contourner ce problème, Hany Farid explique que le logiciel peut s'adapter afin que les médias ou certaines organisations aient accès à ces contenus.

D'autres pensent que la censure automatique empêchera un dialogue qui pourrait permettre l'émergence de discours critiques du terrorisme, et la question essentielle reste de savoir quel est le réel impact de la propagande en ligne. Comme l'explique John Horgan, un professeur de psychologie qui a étudié les groupes terroristes, la connexion n'est pas toujours évidente, et les djihadistes américains qui passent à l'acte ont souvent des disques durs sans images de propagande violente.

«J'imagine que la plupart de gens pensent que nous avons une bonne compréhension du rôle de certains contenus dans le processus de radicalisation. Mais en fait, non, ce n'est pas le cas.»

Newsletters

Grandes oreilles

Grandes oreilles

Les conséquences psychologiques des mails agressifs au travail

Les conséquences psychologiques des mails agressifs au travail

Ils peuvent entraîner une augmentation du stress et un désengagement professionnel.

LinkedIn sert d'outil d'espionnage à la Chine

LinkedIn sert d'outil d'espionnage à la Chine

C'est l'un des rares réseaux sociaux occidentaux qui ne soit pas bloqué dans le pays.

Newsletters