Monde

Un logiciel censé prédire le risque de récidive aux États-Unis a un problème de racisme

Temps de lecture : 2 min

Le site ProPublica a trouvé qu’à infraction égale les noirs étaient notés comme plus dangereux que les blancs.

Cour suprême américaine, le 17 février 2016, à Washington D.C. | MARK WILSON/GETTY IMAGES NORTH AMERICA/AFP
Cour suprême américaine, le 17 février 2016, à Washington D.C. | MARK WILSON/GETTY IMAGES NORTH AMERICA/AFP

Dans de nombreux tribunaux américains, les juges utilisent désormais des estimations de risque de récidive calculées par logiciel. Ces algorithmes sont censés réduire l’impact des préjugés sur les décisions de justice mais une enquête de ProPublica vient de montrer que ce système informatisé est loin d’être objectif.

Les journalistes du site ont analysé les scores de propension à la récidive de 7.000 prévenus en Floride, tous testés par le logiciel mis en place par l’entreprise Northpointe, qui est un des plus utilisés dans le pays. Ils ont trouvé que la formule était assez efficace pour la prédiction des crimes non violents (dans 61% des cas) mais pas du tout efficace pour celle des crimes violents: seulement 20% des invididus considérés comme à haut risque de récidive commettaient de nouveau des crimes violents.

Autre résultat tiré de l’observation de ProPublica: pour des infractions similaires (et avec des casiers judiciaires similaires), les noirs étaient considérés comme 77% plus susceptibles de récidiver que les blancs. Par exemple, une jeune Afro-Américaine arrêtée pour un vol de vélo (et qui avait commis des délits mineurs en tant que mineure) avait un score de huit sur dix («haut risque»), alors qu’un homme blanc qui avait fait cinq ans de prison pour plusieurs vols à main armée était considéré comme à «bas risque», avec un score de trois.

Criminalisation

Dans cet exemple, il s’est avéré que c’est l’homme qui a récidivé, pas la jeune fille, malgré son score élevé. En général, souligne ProPublica, par rapport aux blancs, les noirs sont ainsi deux fois plus susceptibles d’être considérés à «haut risque» de récidive et de ne pas récidiver par la suite (44,9% de noirs pensés comme à «haut risque» par l’algorithme sont en fait non récidivistes contre 23,5% des blancs).

Le problème, c’est que ces calculs de risque de récidive ont un impact important: ils permettent de déterminer qui aura droit à du sursis et des programmes d’alternative à l’incarcération, ainsi que les prix des cautions pour sortir de prison, et même parfois la longueur des peines.

Dans le logiciel de Northpointe, les 137 questions utilisées pour déterminer si un prévenu est un potentiel récidiviste expliquent en partie pourquoi les Afro-Américains se retrouvent désavantagés. L’algorithme a en effet tendance à criminaliser certains traits sociaux, plus communs chez les Afro-Américains aux États-Unis, comme le chômage, la pauvreté et le fait d’avoir des membres de sa famille qui ont fait de la prison.

En 2014, le ministre de la Justice Eric Holder avait déjà mis en garde contre l’utilisation de ce genre de logiciel prédictif, expliquant qu’il craignait que certains préjugés ne soient ainsi renforcés. L’enquête de ProPublica semble lui donner raison.

Slate.fr

Newsletters

Près des trois quarts des Russes ont une opinion positive de Staline

Près des trois quarts des Russes ont une opinion positive de Staline

Et pas loin de la moitié pensent que la répression stalinienne était justifiée au vu des résultats obtenus.

Après Notre-Dame, une levée de fonds pour des églises noires incendiées en Louisiane

Après Notre-Dame, une levée de fonds pour des églises noires incendiées en Louisiane

La médiatisation du drame de Notre-Dame de Paris a permis à une modeste collecte de dons d'avoir plus de visibilité.

En Algérie et au Soudan, les prémices de l'épisode 2 du Printemps arabe?

En Algérie et au Soudan, les prémices de l'épisode 2 du Printemps arabe?

Huit ans après les soulèvements historiques dans le monde arabe, les manifestations au Soudan et en Algérie confirment la marche de l'histoire en dépit des nombreux déraillements du premier train.

Newsletters