Société / Tech & internet

Une développeuse crée un filtre pour bloquer les dick pics

Temps de lecture : 2 min

Cette intelligence artificielle peut reconnaître les images sexuellement explicites et les supprimer.

Les entreprises doivent faire des efforts et instaurer une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. | Priscilla Du Preez via Unsplash
Les entreprises doivent faire des efforts et instaurer une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. | Priscilla Du Preez via Unsplash

La développeuse web Kelsey Bressler, 28 ans, en a eu assez de recevoir des photos de pénis dans les messages privés de son compte Twitter. «C'est une violation... ils ne font que vous forcer la main», a affirmé la développeuse web. Le fait que ces images soient partagées sans le consentement de la ou du destinataire est considéré comme du harcèlement sexuel.

Elle a donc décidé, plus tôt ce mois-ci, de créer un filtre d'intelligence artificielle prétendument capable d'empêcher plus de 95% des photos de pénis d'atteindre sa boîte de réception. Afin de tester le filtre, Kelsey a créé le compte d'essai @ShowYoDiq, «pour la science», sur lequel elle a sollicité les hommes à envoyer des dick pics en masse. Elle en a aussitôt reçu des centaines.

Le filtre sait repérer les organes génitaux car il a été entraîné en regardant beaucoup d'images pornographiques. Quelques photographies ont cependant réussi à détourner l'intelligence du filtre, notamment celle d'un pénis couvert de paillettes violettes. Mais lorsqu'il s'agit d'un organe habituel, le filtre le voit et le supprime avant que le destinataire ait à le faire.

Inaction des réseaux sociaux

Face à la rapidité du lancement de l'intelligence artificielle de Kelsey Bressler, qui a déjà attiré l'attention d'un réseau social, on se demande pourquoi les entreprises de technologie n'ont pas encore commencé à s'attaquer à ce problème. Par exemple, le réseau social Twitter a un réglage qui, une fois activé, peut bloquer les images signalées comme «contenu sensible» par d'autres personnes, mais cela n'empêche pas qu'une photo de pénis soit envoyée dans les messages privés.

Il est nécessaire que les entreprises fassent des efforts et instaurent une législation pour mettre un terme au cyberharcèlement et au partage non consenti de nudes. Mais elles seraient réticentes à interdire le partage de photos de sexe non sollicitées, car cette pratique n'est pas encore illégale partout et elles ne sont pas tenues de protéger leurs utilisateurs et utilisatrices. Même en cas de harcèlement grave, les entreprises peuvent défendre leur refus de protéger les victimes en invoquant l'article 230 du Communications Decency Act (en ce qui concerne les États-Unis), qui les acquitte de toute responsabilité quant au contenu que les inscrit·es sur leurs réseaux partagent.

L'application de rencontre Bumble a récemment lancé un filtre d'images, Private Detector, similaire à celui de Kelsey Bressler. Le filtre floute les images potentiellement sensibles afin que les destinataires puissent les supprimer sans avoir à les regarder.

Newsletters

À l'heure du Covid-19, le manque de contacts physiques affecte nos vies

À l'heure du Covid-19, le manque de contacts physiques affecte nos vies

Le toucher est un besoin indispensable au bien-être de l'être humain, mais c'est surtout la privation des gestes familiers en présence de nos proches qui rend cette nécessité saillante.

 Anne Soupa relance le débat sur la place des femmes dans l'Église

Anne Soupa relance le débat sur la place des femmes dans l'Église

L'Église catholique est-elle encore capable de se mettre à jour, de converser avec le monde d'aujourd'hui?

La police de Minneapolis avait déjà rendu inconscientes plusieurs personnes avec la prise qui a tué George Floyd

La police de Minneapolis avait déjà rendu inconscientes plusieurs personnes avec la prise qui a tué George Floyd

Cette technique dangereuse consiste à utiliser son bras ou sa jambe pour comprimer le cou d'un·e suspect·e.

Newsletters