Les dangers des deepfakes sont innombrables et leur utilisation semble chaque jour de plus en plus accessible. Preuve en est cette histoire qui nous vient de Pennsylvanie, aux États-Unis, où une mère a utilisé cette technique d’intelligence artificielle, qui permet de remplacer un visage par un autre dans une vidéo, pour nuire à un groupe de jeunes pom-poms girls rivales de sa fille.
En juillet 2020, trois jeunes filles du comté de Bucks ont commencé à recevoir des photos et des vidéos d'elles les représentant en train de se déshabiller, de boire et de fumer, mais également des encouragements anonymes à se suicider. Leurs entraîneurs de cheerleading (les jeunes filles sont pom-pom girls) ont également reçu les mêmes contenus obscènes. Les parents ont finalement alerté la police et une enquête a été ouverte.
En remontant à la source des vidéos, les enquêteur·trices ont débusqué la coupable: il s'agissait d'une Américaine de 50 ans, mère d'une pom-pom girl visiblement en concurrence avec les trois jeunes victimes. En utilisant des photos prises sur les réseaux sociaux, la coupable avait pour objectif de créer des contenus compromettants pour les rivales de sa fille grâce au deepfake, qui permet de faire en image n'importe quoi à n'importe qui. Si la mère a été accusée, entre autres, de cyber-harcèlement d'enfants, sa fille est pour l'instant mise hors de cause.
Un algorithme pour les détecter
Les deepfakes inquiètent parce qu'ils peuvent facilement tromper celui ou celle qui visionne les vidéos truquées. Si certains de ces montages sont explicitement présentés comme tels, comme dans une vidéo du Youtubeur French Faker montrant Emmanuel Macron évoquant l'utilisation de la force nucléaire, d'autres sont beaucoup plus sournoises et ne se présentent pas comme étant fausses.
Heureusement, il existe aujourd'hui des outils pour débusquer les deepfakes. Récemment, des informaticien·nes de l'Université de Buffalo ont notamment développé un algorithme qui met en évidence les faux visages dans ces vidéos en regardant leurs yeux, rapporte Futurism.
L'intelligence artificielle utilisée pour les deepfakes serait en effet totalement médiocre pour recréer des réflexions oculaires justes et précises. Un point faible qui n'a pas échappé aux informaticien·nes. En se concentrant sur cette faille, leur algorithme arrive ainsi à identifier avec une efficacité de 94% les fausses images.
