Monde

Un logiciel censé prédire le risque de récidive aux États-Unis a un problème de racisme

Repéré par Claire Levenson, mis à jour le 24.05.2016 à 10 h 01

Repéré sur ProPublica

Le site ProPublica a trouvé qu’à infraction égale les noirs étaient notés comme plus dangereux que les blancs.

Cour suprême américaine, le 17 février 2016, à Washington D.C. | MARK WILSON/GETTY IMAGES NORTH AMERICA/AFP

Cour suprême américaine, le 17 février 2016, à Washington D.C. | MARK WILSON/GETTY IMAGES NORTH AMERICA/AFP

Dans de nombreux tribunaux américains, les juges utilisent désormais des estimations de risque de récidive calculées par logiciel. Ces algorithmes sont censés réduire l’impact des préjugés sur les décisions de justice mais une enquête de ProPublica vient de montrer que ce système informatisé est loin d’être objectif.

Les journalistes du site ont analysé les scores de propension à la récidive de 7.000 prévenus en Floride, tous testés par le logiciel mis en place par l’entreprise Northpointe, qui est un des plus utilisés dans le pays. Ils ont trouvé que la formule était assez efficace pour la prédiction des crimes non violents (dans 61% des cas) mais pas du tout efficace pour celle des crimes violents: seulement 20% des invididus considérés comme à haut risque de récidive commettaient de nouveau des crimes violents.

Autre résultat tiré de l’observation de ProPublica: pour des infractions similaires (et avec des casiers judiciaires similaires), les noirs étaient considérés comme 77% plus susceptibles de récidiver que les blancs. Par exemple, une jeune Afro-Américaine arrêtée pour un vol de vélo (et qui avait commis des délits mineurs en tant que mineure) avait un score de huit sur dix («haut risque»), alors qu’un homme blanc qui avait fait cinq ans de prison pour plusieurs vols à main armée était considéré comme à «bas risque», avec un score de trois.

Criminalisation

Dans cet exemple, il s’est avéré que c’est l’homme qui a récidivé, pas la jeune fille, malgré son score élevé. En général, souligne ProPublica, par rapport aux blancs, les noirs sont ainsi deux fois plus susceptibles d’être considérés à «haut risque» de récidive et de ne pas récidiver par la suite (44,9% de noirs pensés comme à «haut risque» par l’algorithme sont en fait non récidivistes contre 23,5% des blancs).

Le problème, c’est que ces calculs de risque de récidive ont un impact important: ils permettent de déterminer qui aura droit à du sursis et des programmes d’alternative à l’incarcération, ainsi que les prix des cautions pour sortir de prison, et même parfois la longueur des peines.

Dans le logiciel de Northpointe, les 137 questions utilisées pour déterminer si un prévenu est un potentiel récidiviste expliquent en partie pourquoi les Afro-Américains se retrouvent désavantagés. L’algorithme a en effet tendance à criminaliser certains traits sociaux, plus communs chez les Afro-Américains aux États-Unis, comme le chômage, la pauvreté et le fait d’avoir des membres de sa famille qui ont fait de la prison. 

En 2014, le ministre de la Justice Eric Holder avait déjà mis en garde contre l’utilisation de ce genre de logiciel prédictif, expliquant qu’il craignait que certains préjugés ne soient ainsi renforcés. L’enquête de ProPublica semble lui donner raison.

En poursuivant votre navigation sur ce site, vous acceptez l’utilisation de cookies pour réaliser des statistiques de visites, vous proposer des publicités adaptées à vos centres d’intérêt et nous suivre sur les réseaux sociaux. > Paramétrer > J'accepte