Société / Tech & internet

Une mère utilise le deepfake pour discréditer des pom-pom girls rivales de sa fille

Temps de lecture : 2 min

Les fausses vidéos ont notamment été envoyées aux entraîneurs des jeunes filles.

Le deepfake permet de remplacer un visage par un autre dans une vidéo. | Ashley Williams via Pexels
 
Le deepfake permet de remplacer un visage par un autre dans une vidéo. | Ashley Williams via Pexels  

Les dangers des deepfakes sont innombrables et leur utilisation semble chaque jour de plus en plus accessible. Preuve en est cette histoire qui nous vient de Pennsylvanie, aux États-Unis, où une mère a utilisé cette technique d’intelligence artificielle, qui permet de remplacer un visage par un autre dans une vidéo, pour nuire à un groupe de jeunes pom-poms girls rivales de sa fille.

En juillet 2020, trois jeunes filles du comté de Bucks ont commencé à recevoir des photos et des vidéos d'elles les représentant en train de se déshabiller, de boire et de fumer, mais également des encouragements anonymes à se suicider. Leurs entraîneurs de cheerleading (les jeunes filles sont pom-pom girls) ont également reçu les mêmes contenus obscènes. Les parents ont finalement alerté la police et une enquête a été ouverte.

En remontant à la source des vidéos, les enquêteur·trices ont débusqué la coupable: il s'agissait d'une Américaine de 50 ans, mère d'une pom-pom girl visiblement en concurrence avec les trois jeunes victimes. En utilisant des photos prises sur les réseaux sociaux, la coupable avait pour objectif de créer des contenus compromettants pour les rivales de sa fille grâce au deepfake, qui permet de faire en image n'importe quoi à n'importe qui. Si la mère a été accusée, entre autres, de cyber-harcèlement d'enfants, sa fille est pour l'instant mise hors de cause.

Un algorithme pour les détecter

Les deepfakes inquiètent parce qu'ils peuvent facilement tromper celui ou celle qui visionne les vidéos truquées. Si certains de ces montages sont explicitement présentés comme tels, comme dans une vidéo du Youtubeur French Faker montrant Emmanuel Macron évoquant l'utilisation de la force nucléaire, d'autres sont beaucoup plus sournoises et ne se présentent pas comme étant fausses.

Heureusement, il existe aujourd'hui des outils pour débusquer les deepfakes. Récemment, des informaticien·nes de l'Université de Buffalo ont notamment développé un algorithme qui met en évidence les faux visages dans ces vidéos en regardant leurs yeux, rapporte Futurism.

L'intelligence artificielle utilisée pour les deepfakes serait en effet totalement médiocre pour recréer des réflexions oculaires justes et précises. Un point faible qui n'a pas échappé aux informaticien·nes. En se concentrant sur cette faille, leur algorithme arrive ainsi à identifier avec une efficacité de 94% les fausses images.

Newsletters

La semaine imaginaire de Pierre-Jean Chalençon

La semaine imaginaire de Pierre-Jean Chalençon

Chaque samedi, Louison se met dans la peau d'une personnalité qui a fait l'actu et imagine son journal de bord.

Paris by day

Paris by day

Unef, Pulvar... le piège des polémiques à la sauce extrême droite

Unef, Pulvar... le piège des polémiques à la sauce extrême droite

Très présents sur les réseaux sociaux, les militants réagissent à tout et n'importe quoi. Les algorithmes les servent, et nous, on suit.

Podcasts Grands Formats Séries
Newsletters