Tech & internet

Se servir de la reconnaissance faciale lors d’un procès, une délicate question éthique

Temps de lecture : 7 min

Aux États-Unis, le procédé commence à être utilisé dans des affaires mineures.

Une démonstration d'un logiciel de reconnaissance faciale pendant le CES 2019, à Las Vegas | David McNew / AFP
Une démonstration d'un logiciel de reconnaissance faciale pendant le CES 2019, à Las Vegas | David McNew / AFP

En 2015, des agents infiltrés travaillant avec le bureau du shérif de Jacksonville photographièrent un homme en train de vendre pour cinquante dollars de cocaïne. Les enquêteurs étant incapables de l’identifier, ils décidèrent de se tourner vers un système de reconnaissance faciale baptisé FACES (Face Analysis Comparison Examination System), qui s’appuie sur une base de données constituée par plus de trente-trois millions de photos de permis de conduire et de photographies judiciaires. Conçu pour renvoyer plusieurs correspondances potentielles pour une image donnée, il désigna Willie Allen Lynch et quatre autres suspects. Après enquête, les inspecteurs arrêtèrent Lynch pour le crime en question et il fut finalement condamné à huit ans de prison.

Un usage mal encadré et caché

La Floride a commencé à mettre en place son système de reconnaissance faciale en 2001, soit longtemps avant la plupart des autres États américains. Et aujourd’hui, en Floride, les autorités effectuent chaque mois environ 8.000 recherches via FACES, soit presque deux fois la moyenne des unités de reconnaissance faciale du FBI. Le Center on Privacy & Technology (centre sur la vie privée et la technologie) de Georgetown a révélé dans un rapport publié en 2016 que le logiciel n’avait pas fait l’objet d’une vérification pour éviter les erreurs ou les mauvaises utilisations. En outre, le bureau du shérif de Jacksonville a également déclaré qu’il n’avait aucune politique officielle concernant FACES.

«Il n’est pas surprenant que la Floride soit le premier État où une affaire comme celle-ci puisse être portée en appel»

Jennifer Lynch, responsable du service surveillance-litiges de l’Electronic Frontier Foundation

«La Floride possède le système de reconnaissance faciale le plus avancé de tous les États-Unis. C’est celui qui fonctionne depuis le plus longtemps et qui donne les meilleurs résultats», affirme Jennifer Lynch (aucun lien de parenté avec le prévenu), responsable du service surveillance-litiges de l’Electronic Frontier Foundation. Ce sont même les forces de l’ordre de l’État de Floride qui ont conseillé le FBI lorsque ce dernier a mis en place son propre système de reconnaissance faciale. Jennifer Lynch ajoute: «Il n’est pas surprenant que la Floride soit le premier État où une affaire comme celle-ci puisse être portée en appel. Il est très probable qu’il y aura d’autres cas de ce genre à l’avenir.» En dépit de la prolifération de la technologie dans l’État, les avocats locaux de l’assistance judiciaire ont expliqué aux chercheurs de Georgetown que la police n’avait jamais divulgué d’informations sur les utilisations spécifiques du système dans des affaires pénales.

Et, en effet, dans le rapport de police relatif à l’arrestation de Willie Allen Lynch, les autorités n’ont pas écrit qu’elles avaient consulté FACES. Le prévenu n’a même appris l’existence de la technologie en question que des mois après avoir cherché personnellement à faire témoigner les inspecteurs et la criminologue impliquées. Au cours d’une déposition préalable au procès, la criminologue qui avait soumis la photographie du dealer à FACES a aussi expliqué que le logiciel note la qualité de la correspondance à l’aide d’un système d’étoiles. Elle avait remarqué qu’il n’avait attribué qu’une seule étoile à Lynch, mais que les autres correspondances potentielles n’en avaient reçu aucune. Elle ne connaissait pas le nombre maximum d’étoiles qu’il était possible d’obtenir.

Plusieurs failles dans le système

Au cours de son procès, Lynch a affirmé qu’il avait été mal identifié. Toutefois, le tribunal a rejeté sa demande d’avoir accès aux photographies des autres personnes identifiées par FACES comme des correspondances possibles, pour la simple raison que les inspecteurs ne les avaient pas vues non plus. L’un des principaux arguments de l’appel de Lynch était que l’État était allé à l’encontre du précédent juridique établi par la Cour suprême dans l’affaire Brady contre Maryland, qui indique que les procureurs doivent remettre à la défense des preuves potentiellement à décharge. «Si l’une ou l’autre des photographies des autres correspondances potentielles établies par le programme de reconnaissance faciale ressemble au vendeur de drogue ou au prévenu, il y a clairement eu violation du précédent Brady contre Maryland et le prévenu devrait avoir droit à un nouveau procès», a écrit l’avocat de Lynch dans sa requête pour une nouvelle audition. (Le bureau du shérif de Jacksonville a déclaré publiquement que les inspecteurs n’utilisent FACES que conjointement avec d’autres outils d’enquête. Dans le cas présent, les enquêteurs se sont également appuyés sur le récit d’un témoin oculaire –contesté par la défense– ainsi que sur le casier judiciaire de Lynch pour l’accuser).

La caméra d'un appareil de reconnaissance faciale dans l'aéroport de Miami, Floride, aux États-Unis, le 27 février 2018 | Joe Raedle / Getty images North America / AFP

Jake Laperruque, avocat principal du Constitution Project travaillant sur la reconnaissance faciale et la vie privée, souligne que les photographies d’autres correspondances FACES ne sont pas les seules potentiellement à décharge dans ce scénario. Des facteurs tels que la qualité des algorithmes, les seuils de confiance et le format de retour des correspondances peuvent tous affecter la précision de la technologie. Compte tenu de ces problèmes, beaucoup soutiennent que, conformément à la jurisprudence Brady, la police devrait être tenue de révéler lorsqu’un logiciel de reconnaissance faciale a été utilisé.

«C’est comme si une enquête de police reposait sur le récit d’un témoin oculaire, mais qu’on ne le disait pas à l’accusé ou qu’on ne lui précisait pas s’il se trouvait à deux mètres ou à deux cents lorsqu’il a vu la scène.»

Jake Laperruque, avocat

«Sans savoir que la reconnaissance faciale a été employée et sans en connaître les détails, il est impossible pour les accusés de savoir si l’usage qui en a été fait dans le cadre de l’enquête était approprié, explique Laperruque. C’est comme si une enquête de police reposait sur le récit d’un témoin oculaire, mais qu’on ne le disait pas à l’accusé ou qu’on ne lui précisait pas s’il se trouvait à deux mètres ou à deux cents lorsqu’il a vu la scène.»

Le fait que Lynch soit noir soulève également des questions quant à l'exactitude de FACES dans ce cas précis, car les logiciels de reconnaissance faciale sont réputés avoir du mal à identifier les personnes de couleur. Les chercheurs du MIT ont publié l'an dernier une étude qui mettait à l'essai trois des systèmes de reconnaissance faciale les plus avancés qui soient. Ils ont constaté que les taux d'erreur étaient d'environ 1% pour les hommes à peau claire, 12% pour les hommes à peau foncée et 35% pour les femmes à peau foncée.

Ce mois-ci, cependant, la Cour d’appel du 1er District a confirmé la condamnation de Lynch au motif qu’il ne pouvait pas prouver que les autres photos de la base de données lui ressemblaient, même si ni Lynch, ni son avocat en appel, Victor Holder, n’ont pu avoir accès à ces photos. Sans elles, ils n’ont pas pu soutenir que l’issue du procès aurait pu être différente. La cour a également noté que le jury avait eu l’occasion de comparer les photos de Lynch avec celles du dealer.

«De vives inquiétudes quant aux droits de l’homme»

Victor Holder a déclaré au Florida Times Union qu’il envisageait d’autres possibilités pour faire appel. «Les autorités policières de Floride se servent actuellement d’un système de reconnaissance faciale alors que la population est peu (voire pas du tout) au courant qu’aucune norme uniforme ne régit son utilisation et qu’il n’y a aucune surveillance publique par le corps législatif de Floride», affirme-t-il.

Plus de sensibilisation et de transparence au sujet de la reconnaissance faciale augmenterait les interrogations à propos de cette technologie dans les salles d’audience. «En général, lorsque l’on a recours à la reconnaissance faciale comme point de départ d’une enquête, on risque de voir se soulever des interrogations lors du procès quant à la fiabilité du système, explique Jake Laperruque. Quand les policiers utilisent des empreintes digitales lors de leur enquête (même s’il ne s’agit pas d’une preuve irréfutable), si c’est l’élément qui les a poussés à déclarer la personne suspecte ou à aller fouiller sa maison, l’avocat de la défense va immanquablement interroger l’expert en empreintes digitales sur ses méthodes et ses compétences

Pour Sarah St. Vincent, chercheuse et avocate de Human Rights Watch, l’affaire de Willie Allen Lynch soulève également des questions sur l’utilisation apparemment systématique des technologies de reconnaissance faciale par les services de police. «Avoir recours à un logiciel de surveillance puissant, de reconnaissance faciale, pour une affaire de vente de drogue d’une valeur de cinquante dollars, soulève de vives inquiétudes quant aux droits de l’homme, dit-elle. Si le gouvernement considère pouvoir recourir à des méthodes de surveillance pouvant empiéter sur les droits fondamentaux avec autant d’efficacité que la reconnaissance faciale, il ne devrait l’envisager que dans des cas d’une gravité extrême.» (La police a eu des occasions plus importantes d’utiliser cette technologie, comme l’année dernière, quand elle s’est servie du logiciel de reconnaissance faciale pour identifier le tireur suspecté de la fusillade dans la salle de rédaction du Capital Gazette, au Maryland.)

Si Lynch n’avait pas pris sur lui de se plonger dans les dépositions et de déposer des requêtes manuscrites dans son affaire, il n’aurait peut-être jamais appris le rôle joué par FACES dans son arrestation. Le fait que les autorités policières ne signalent pas ces cas pourrait bien empêcher le système juridique américain d’examiner aussi ces questions. «Nous devons au moins savoir quand le système de reconnaissance faciale est utilisé afin que les tribunaux, les avocats de la défense et les procureurs puissent discuter conjointement de la question, affirme Sarah St. Vincent. Je ne suis pas certaine qu’aujourd’hui, l’utilisation de cette technologie soit habituellement dévoilée.»

Aaron Mak Journaliste à Slate.com

Newsletters

Google peut-il aider à réduire le taux de suicide chez les jeunes LGBT+?

Google peut-il aider à réduire le taux de suicide chez les jeunes LGBT+?

La firme américaine est en train de développer des outils dans ce but.

Ce robot bat les pros au poker, et c'est une révolution en matière d'IA

Ce robot bat les pros au poker, et c'est une révolution en matière d'IA

Encore un joli coup pour Facebook.

Le projet Libra peut-il modifier l'ordre monétaire mondial?

Le projet Libra peut-il modifier l'ordre monétaire mondial?

L'arrivée du réseau social dans le jeu monétaire virtuel fait du bruit. Tandis que des démocrates américains demandent à Facebook de ralentir la mise en route du projet, d'autres s'impatientent.

Newsletters