Société / Tech & internet

Une développeuse crée un filtre pour bloquer les dick pics

Temps de lecture : 2 min

Cette intelligence artificielle peut reconnaître les images sexuellement explicites et les supprimer.

Les entreprises doivent faire des efforts et instaurer une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. | Priscilla Du Preez via Unsplash
Les entreprises doivent faire des efforts et instaurer une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. | Priscilla Du Preez via Unsplash

La développeuse web Kelsey Bressler, 28 ans, en a eu assez de recevoir des photos de pénis dans les messages privés de son compte Twitter. «C'est une violation... ils ne font que vous forcer la main», a affirmé la développeuse web. Le fait que ces images soient partagées sans le consentement de la ou du destinataire est considéré comme du harcèlement sexuel.

Elle a donc décidé, plus tôt ce mois-ci, de créer un filtre d'intelligence artificielle prétendument capable d'empêcher plus de 95% des photos de pénis d'atteindre sa boîte de réception. Afin de tester le filtre, Kelsey a créé le compte d'essai @ShowYoDiq, «pour la science», sur lequel elle a sollicité les hommes à envoyer des dick pics en masse. Elle en a aussitôt reçu des centaines.

Le filtre sait repérer les organes génitaux car il a été entraîné en regardant beaucoup d'images pornographiques. Quelques photographies ont cependant réussi à détourner l'intelligence du filtre, notamment celle d'un pénis couvert de paillettes violettes. Mais lorsqu'il s'agit d'un organe habituel, le filtre le voit et le supprime avant que le destinataire ait à le faire.

Inaction des réseaux sociaux

Face à la rapidité du lancement de l'intelligence artificielle de Kelsey Bressler, qui a déjà attiré l'attention d'un réseau social, on se demande pourquoi les entreprises de technologie n'ont pas encore commencé à s'attaquer à ce problème. Par exemple, le réseau social Twitter a un réglage qui, une fois activé, peut bloquer les images signalées comme «contenu sensible» par d'autres personnes, mais cela n'empêche pas qu'une photo de pénis soit envoyée dans les messages privés.

Il est nécessaire que les entreprises fassent des efforts et instaurent une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. Mais elles seraient réticentes à interdire le partage de photos de sexe non sollicitées, car cette pratique n'est pas encore illégale partout et elles ne sont pas tenues de protéger leurs utilisateurs et utilisatrices. Même en cas de harcèlement grave, les entreprises peuvent défendre leur refus de protéger les victimes en invoquant l'article 230 du Communications Decency Act (en ce qui concerne les États-Unis), qui les acquitte de toute responsabilité quant au contenu que les inscrit·es sur leurs réseaux partagent.

L'application de rencontre Bumble a récemment lancé un filtre d'images, Private Detector, similaire à celui de Kelsey Bressler. Le filtre floute les images potentiellement sensibles afin que les destinataires puissent les supprimer sans avoir à les regarder.

Newsletters

J'aimerais passer mes vacances sans règles, la prise de pilule en continu est-elle risquée ?

J'aimerais passer mes vacances sans règles, la prise de pilule en continu est-elle risquée ?

Elsa aimerait passer ses vacances sans règles. Elle nous demande si elle court un risque en prenant la pilule en continu. Nous avons posé la question au docteur Aristizabal. Voici ses réponses. ...

La moitié des hommes britanniques de la génération Z se sentent menacés par le féminisme

La moitié des hommes britanniques de la génération Z se sentent menacés par le féminisme

Un cinquième d'entre eux avouent avoir une mauvaise image des féministes.

Le syndrome de l'imposteur touche les femmes, et plus encore celles racisées

Le syndrome de l'imposteur touche les femmes, et plus encore celles racisées

Les stéréotypes négatifs, la culture d'entreprise et le manque de modèles ne favorisent pas leur intégration professionnelle.

Newsletters