Société / Tech & internet

Une développeuse crée un filtre pour bloquer les dick pics

Temps de lecture : 2 min

Cette intelligence artificielle peut reconnaître les images sexuellement explicites et les supprimer.

Les entreprises doivent faire des efforts et instaurer une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. | Priscilla Du Preez via Unsplash
Les entreprises doivent faire des efforts et instaurer une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. | Priscilla Du Preez via Unsplash

La développeuse web Kelsey Bressler, 28 ans, en a eu assez de recevoir des photos de pénis dans les messages privés de son compte Twitter. «C'est une violation... ils ne font que vous forcer la main», a affirmé la développeuse web. Le fait que ces images soient partagées sans le consentement de la ou du destinataire est considéré comme du harcèlement sexuel.

Elle a donc décidé, plus tôt ce mois-ci, de créer un filtre d'intelligence artificielle prétendument capable d'empêcher plus de 95% des photos de pénis d'atteindre sa boîte de réception. Afin de tester le filtre, Kelsey a créé le compte d'essai @ShowYoDiq, «pour la science», sur lequel elle a sollicité les hommes à envoyer des dick pics en masse. Elle en a aussitôt reçu des centaines.

Le filtre sait repérer les organes génitaux car il a été entraîné en regardant beaucoup d'images pornographiques. Quelques photographies ont cependant réussi à détourner l'intelligence du filtre, notamment celle d'un pénis couvert de paillettes violettes. Mais lorsqu'il s'agit d'un organe habituel, le filtre le voit et le supprime avant que le destinataire ait à le faire.

Inaction des réseaux sociaux

Face à la rapidité du lancement de l'intelligence artificielle de Kelsey Bressler, qui a déjà attiré l'attention d'un réseau social, on se demande pourquoi les entreprises de technologie n'ont pas encore commencé à s'attaquer à ce problème. Par exemple, le réseau social Twitter a un réglage qui, une fois activé, peut bloquer les images signalées comme «contenu sensible» par d'autres personnes, mais cela n'empêche pas qu'une photo de pénis soit envoyée dans les messages privés.

Il est nécessaire que les entreprises fassent des efforts et instaurent une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. Mais elles seraient réticentes à interdire le partage de photos de sexe non sollicitées, car cette pratique n'est pas encore illégale partout et elles ne sont pas tenues de protéger leurs utilisateurs et utilisatrices. Même en cas de harcèlement grave, les entreprises peuvent défendre leur refus de protéger les victimes en invoquant l'article 230 du Communications Decency Act (en ce qui concerne les États-Unis), qui les acquitte de toute responsabilité quant au contenu que les inscrit·es sur leurs réseaux partagent.

L'application de rencontre Bumble a récemment lancé un filtre d'images, Private Detector, similaire à celui de Kelsey Bressler. Le filtre floute les images potentiellement sensibles afin que les destinataires puissent les supprimer sans avoir à les regarder.

Newsletters

L'accent français n'est pas le plus sexy du monde

L'accent français n'est pas le plus sexy du monde

On s'est fait détrôner.

L'ultra-gauche n'est pas du tout ce que Jean-Michel Blanquer désigne

L'ultra-gauche n'est pas du tout ce que Jean-Michel Blanquer désigne

La dénonciation de l'ultra-gauche par une partie de la sphère politico-médiatique s'inscrit dans des traditions anciennes de différents partis, qui cherchent à créer un ennemi de l'intérieur.

Planning familial

Planning familial

Newsletters