Société / Tech & internet

Une développeuse crée un filtre pour bloquer les dick pics

Temps de lecture : 2 min

Cette intelligence artificielle peut reconnaître les images sexuellement explicites et les supprimer.

Les entreprises doivent faire des efforts et instaurer une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. | Priscilla Du Preez via Unsplash
Les entreprises doivent faire des efforts et instaurer une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. | Priscilla Du Preez via Unsplash

La développeuse web Kelsey Bressler, 28 ans, en a eu assez de recevoir des photos de pénis dans les messages privés de son compte Twitter. «C'est une violation... ils ne font que vous forcer la main», a affirmé la développeuse web. Le fait que ces images soient partagées sans le consentement de la ou du destinataire est considéré comme du harcèlement sexuel.

Elle a donc décidé, plus tôt ce mois-ci, de créer un filtre d'intelligence artificielle prétendument capable d'empêcher plus de 95% des photos de pénis d'atteindre sa boîte de réception. Afin de tester le filtre, Kelsey a créé le compte d'essai @ShowYoDiq, «pour la science», sur lequel elle a sollicité les hommes à envoyer des dick pics en masse. Elle en a aussitôt reçu des centaines.

Le filtre sait repérer les organes génitaux car il a été entraîné en regardant beaucoup d'images pornographiques. Quelques photographies ont cependant réussi à détourner l'intelligence du filtre, notamment celle d'un pénis couvert de paillettes violettes. Mais lorsqu'il s'agit d'un organe habituel, le filtre le voit et le supprime avant que le destinataire ait à le faire.

Inaction des réseaux sociaux

Face à la rapidité du lancement de l'intelligence artificielle de Kelsey Bressler, qui a déjà attiré l'attention d'un réseau social, on se demande pourquoi les entreprises de technologie n'ont pas encore commencé à s'attaquer à ce problème. Par exemple, le réseau social Twitter a un réglage qui, une fois activé, peut bloquer les images signalées comme «contenu sensible» par d'autres personnes, mais cela n'empêche pas qu'une photo de pénis soit envoyée dans les messages privés.

Il est nécessaire que les entreprises fassent des efforts et instaurent une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. Mais elles seraient réticentes à interdire le partage de photos de sexe non sollicitées, car cette pratique n'est pas encore illégale partout et elles ne sont pas tenues de protéger leurs utilisateurs et utilisatrices. Même en cas de harcèlement grave, les entreprises peuvent défendre leur refus de protéger les victimes en invoquant l'article 230 du Communications Decency Act (en ce qui concerne les États-Unis), qui les acquitte de toute responsabilité quant au contenu que les inscrit·es sur leurs réseaux partagent.

L'application de rencontre Bumble a récemment lancé un filtre d'images, Private Detector, similaire à celui de Kelsey Bressler. Le filtre floute les images potentiellement sensibles afin que les destinataires puissent les supprimer sans avoir à les regarder.

Slate.fr

Newsletters

En Californie, les tensions entre sans-abri et résidents s'accentuent

En Californie, les tensions entre sans-abri et résidents s'accentuent

Campements, seringues et misère humaine mettent à l'épreuve la tolérance et la compassion en Californie.

«Je ne veux pas me convertir si je ne crois pas en Dieu»

«Je ne veux pas me convertir si je ne crois pas en Dieu»

[C'est compliqué] Cette semaine, Lucile conseille Lucile, athée, dont le compagnon souhaite qu'elle se convertisse à sa religion avant de pouvoir envisager de fonder une famille.

«Je comprends qu'il y a quelqu'un, je prends le plus grand couteau»

«Je comprends qu'il y a quelqu'un, je prends le plus grand couteau»

[Épisode 4] Trouver un homme dans l'appartement qu'il habite avec sa petite amie, lui sauter dessus, plaider le crime passionnel. Charles Sievers a réalisé le scénario qu'il avait écrit six ans avant.

Newsletters