Tech & internet / Monde

Le logiciel anti-pédopornographie de la police de Londres confond les dunes avec des photos de nus

Temps de lecture : 2 min

La Metropolitan Police espère améliorer l'efficacité de son intelligence artificielle détectrice d'images pornographiques d'ici deux à trois ans.

/
Dunes | JAMES MARVIN PHELPS via Flickr CC License by

La police de Londres utilise une intelligence artificielle pour repérer des images de drogue, d'armes et d'argent dans les appareils électroniques qu'ils saisissent. Mais quand il s'agit de détecter des images pédopornographiques, le logiciel ne marche pas bien. Pour l'instant, le système ne fait pas la différence entre un corps nu et des dunes.

«Parfois, quand il y a un désert, le logiciel pense que c'est une image indécente ou de la pornographie, explique Mark Stokes, un directeur de la police scientifique de Londres au Telegraph. Pour une raison que j'ignore, de nombreuses personnes ont des fonds d'écrans de déserts et le système les détecte, pensant que c'est la couleur de la peau.»

Pour l'instant, ce sont surtout des policiers qui passent des heures à évaluer des images indécentes trouvées dans des smartphones et des ordinateurs, mais la Metropolitan Police espère que les machines pourront bientôt s'en charger afin d'éviter ce travail pénible à ses employés.

Un donut?

En partenariat avec la Silicon Valley, la police de Londres raffine son intelligence artificielle anti-pédopornographie, qui pourrait être prête dans deux à trois ans.

Pourtant, comme le note Gizmodo, les géants de la Silicon Valley ne sont pour l'instant pas très doués en matière de détection de la nudité problématique, même lorsque des humains sont payés pour superviser les algorithmes. L'année dernière, la célèbre photo d'une fillette nue fuyant un bombardement au napalm pendant la guerre du Vietnam avait été censurée par Facebook, qui avait ensuite dû s'excuser de l'erreur.

Plus récemment, des journalistes de Gizmodo avaient testé une nouvelle application censée identifier des images de nudité, et le système avait signalé un donut, un chien et une photo de Grace Kelly toute habillée.

Slate.fr

Newsletters

Amazon empêche ceux qui n'ont pas acheté le livre de James Comey sur son site de le noter

Amazon empêche ceux qui n'ont pas acheté le livre de James Comey sur son site de le noter

Pour la version française, en revanche, ce n'est pas aussi restrictif.

Comment les entreprises nous ont persuadés que les tests de personnalité sont sympas

Comment les entreprises nous ont persuadés que les tests de personnalité sont sympas

Ce n'est pas un hasard si un simple test de personnalité sur Facebook a permis à Cambridge Analytica de récolter les données de millions d'utilisateurs.

Comment désactiver la reconnaissance faciale sur Facebook

Comment désactiver la reconnaissance faciale sur Facebook

Si vous ne faites pas attention à ce que vous acceptez, il est possible de faire marche arrière.

Newsletters