Tech & internet / Monde

La Nouvelle-Orléans a fourni des données sur ses habitants (sans les avertir) pour prédire les crimes

Temps de lecture : 2 min

Un accord passé avec Palantir a permis la mise en place secrète d'un logiciel de lutte contre le crime utilisant la banque de données municipale.

Bande annonce du film Minority Report, de Steven Spielberg, 2002 | Capture d'écran via YouTube

Entre mai et juin 2013, les crimes perpétrés par les gangs de la Nouvelle-Orléans ont hissé dangereusement la ville à la sixième place des États-Unis en matière de meurtres.

La police du département a fini par arrêter des dizaines d'hommes accusés d'appartenir à des gangs de trafiquants de drogue. Pour cela, elle a utilisé un logiciel développé par l'entreprise Palantir, spécialisée dans les big data et financée par le fonds de capital-investissement de la CIA, In-Q-Tel.

Technologie de police prédictive, le logiciel permet de «tracer les liens de certains individus avec d'autres membres de gangs, décrire des histoires criminelles, analyser les médias sociaux, et prédire la probabilité qu'auront des individus de commettre des actes violents ou de devenir une victime», explique The Verge.

Une «police prédictive» détenue par une entreprise privée

Mais lors du procès, sur les 60.000 pages de rapports, il n'y avait pas trace du partenariat avec Palantir engagé dès 2012, renouvelé trois fois et qui devait expirer le 21 février 2018.

Des initiatives utilisant la technologie pour anticiper les crimes ont déjà été mises en place ailleurs, comme à Chicago avec sa «liste chaude», entraînant souvent des critiques. Pourtant, le cas de la Nouvelle-Orléans semble avoir échappé à la controverse.

Selon The Verge, ceci est dû en partie à la relation philanthropique que Palantir a établi avec la ville avec l'accord du maire Mitch Landrieu via le programme «NOLA for Life». Grâce à ce statut, l'accord n'a pas eu à passer par le processus d'acquisition publique: pas plus que sous les yeux des citoyens.

Depuis, Palantir a breveté au moins un système de prévision des crimes, et développé des logiciels destinés à la lutte anti-terroriste, vendus aux services des renseignements extérieurs.

En 2009 déjà, le Pentagone avait fait appel à la société afin de prévoir l'emplacement d'engins explosifs en Afghanistan et en Irak: ces programmes, destinés à des situations guerrières où «les libertés civiles sont absentes des préoccupations», suscitent des inquiétudes quant à l'application de logiciels similaires pour appréhender les logiques à l'œuvre dans la société civile.

Des millions de données en accès libre

«En janvier 2013, la Nouvelle-Orléans permettait également à Palantir d'utiliser son compte auprès du service Accurint de LexisNexis, qui comprend des millions de documents publics consultables, des dossiers judiciaires, des licences, adresses, numéros de téléphone et données de médias sociaux. La firme avait également obtenu un accès gratuit aux données criminelles et non-criminelles, afin d'entraîner son logiciel pour prévoir les crimes.

Ni les habitants de la Nouvelle-Orléans, ni les membres clefs du conseil municipal dont le travail est de surveiller l'utilisation des données de la ville n'étaient au courant de l'accès de Palantir à des tas de leurs données», rapporte The Verge.

Jim Craig, le directeur du bureau du Roderick and Solange MacArthur Justice Center en Louisiane a comparé cette entreprise à l'installation d'une NSA locale.

Que les citoyens aient ou non commis un crime, leurs données sont collectées et analysées. À cet égard, des chercheurs ont pointé des biais interprétatifs liés à l'algorithme qui analyse ces données: les communautés pauvres de couleur seraient particulièrement visées, sujettes à un «contrôle policier disproportionné».

Si la violence et le nombre de meurtres a diminué au début du lancement du programme, ce succès fut de courte durée, et la Nouvelle-Orléans continue à enregistrer des records de criminalité.

Slate.fr

Newsletters

Instagram, nouveau terrain favorable à l'antiracisme

Instagram, nouveau terrain favorable à l'antiracisme

En 2018, le réseau social a vu éclore plusieurs comptes à vocation militante. Au féminisme et aux sexualités s'ajoute dorénavant la lutte contre le racisme.

Votre chat est plus intelligent qu'une IA

Votre chat est plus intelligent qu'une IA

Si l'intelligence artificielle peut nous émerveiller de ses prouesses, il existe des domaines où elle fait pâle figure comparée à l'intelligence humaine et animale.

L’avenir est à la signature électronique

L’avenir est à la signature électronique

A l’heure du tout dématérialisé, le bon vieux stylo est rangé au placard. Contrat de travail, devis, bon de commande, mandat SEPA, la signature électronique est bien l’option plébiscitée par les entreprises… Et par leurs clients !

Newsletters