Société / Tech & internet

Un algorithme problématique pour faire du porno sans actrice

Temps de lecture : 2 min

L'outil génère des photos de personnes non réelles à partir d'une banque d'images dont les origines sont illégales.

À partir de photos de femmes existantes, l'algorithme génère des images de femmes non réelles. | Roozbeh Eslami via Unsplash
À partir de photos de femmes existantes, l'algorithme génère des images de femmes non réelles. | Roozbeh Eslami via Unsplash

L'intelligence artificielle permettra-t-elle bientôt de créer des vidéos pornographiques sans faire tourner d'acteurs et actrices? C'est en tout cas ce que semble vouloir «GeneratedPorn», un doctorant qui a créé un algorithme controversé. Ce dernier utilise des milliers de photos de femmes nues, publiées par des sociétés de production pornographiques qui sont par ailleurs poursuivies par la justice pour leurs pratiques illégales. En effet, les images sont majoritairement issues de Czech Casting, une société de production pornographique en République Tchèque que la police a déjà accusée de trafic d'êtres humains et de viols, ainsi que de photographies issues de vidéos produites par Girls Do Porn, une entreprise condamnée à payer près de treize millions de dollars à vingt-deux femmes et dont le fondateur est un fugitif recherché par le FBI.

À partir de ces photos de femmes existantes, l'algorithme génère des images de femmes non réelles que l'on retrouve dans les nouveaux films. C'est ce qui fait dire aux partisans du projet de «GeneratedPorn» qu'il ne fait de mal à personne. Les individus opposés au projet considèrent en revanche que ces créations numériques déshumanisent les femmes dont les images sont utilisées. Les pires moments de la vie de certaines sont conservés, modifiés, réutilisés hors contexte et partagés de nouveau sur internet. Selon Honza Červenka, avocat spécialisé dans le «revenge porn», l'idée que les images sont moins nuisibles parce qu'elles sont anonymes et le fruit d'un algorithme est un leurre.

Un projet qui soulève des questions éthiques

«GeneratedPorn», qui explique avoir initialement créé ce projet dans le but d'améliorer ses compétences en machine learning, reconnaît un «potentiel problème éthique» à son travail. En effet, il lui est impossible de vérifier si les images qu'il utilise représentent des femmes qui ont été exploitées par l'industrie pornographique. Une autre difficulté consiste à s'assurer que son algorithme, en créant de toutes pièces des photos de visages de personnes qui ne sont pas réelles, ne génère pas automatiquement des visages qui pourtant ressembleraient à des personnes existantes. Bien que ce risque soit faible, il est primordial que personne ne voit un visage très ressemblant au sien dans un film pornographique sans avoir jamais tourné dedans.

Leah Gotti, professionnelle du porno dont les photos font partie de la banque d'images utilisée par «GeneratedPorn», se bat contre cet algorithme qui volerait du contenu la représentant, sans avoir jamais obtenu son consentement. Selon elle, ce genre de projets rappelle à quel point les travailleurs et les travailleuses du sexe sont souvent peu respectées.

D'après Rumman Chowdhury, data scientist intéressée par l'impact des technologies sur l'humanité, «faire usage d'une intelligence artificielle qui utilise une base de données d'images sans consentement ne peut jamais être éthique».

Newsletters

L'accent français n'est pas le plus sexy du monde

L'accent français n'est pas le plus sexy du monde

On s'est fait détrôner.

L'ultra-gauche n'est pas du tout ce que Jean-Michel Blanquer désigne

L'ultra-gauche n'est pas du tout ce que Jean-Michel Blanquer désigne

La dénonciation de l'ultra-gauche par une partie de la sphère politico-médiatique s'inscrit dans des traditions anciennes de différents partis, qui cherchent à créer un ennemi de l'intérieur.

Planning familial

Planning familial

Newsletters