Société / Tech & internet

La généralisation de la reconnaissance faciale sera un enfer

Temps de lecture : 9 min

Bientôt, vous ne pourrez plus rien cacher à la start-up américaine Clearview AI. Peut-être en sait-elle déjà plus sur vous que vous ne l'imaginez.

L'entreprise a développé une application permettant de retrouver, en un clic, un visage dans sa base de données comptant 3 milliards d'images. | Yuri Kadobnov / AFP
L'entreprise a développé une application permettant de retrouver, en un clic, un visage dans sa base de données comptant 3 milliards d'images. | Yuri Kadobnov / AFP

Nous savons bien que notre usage d'internet n'a rien d'anonyme. Dans la sphère numérique, chacun de nos mouvements est suivi, collecté, analysé. Autant d'éléments fascinants pour nos espions, qui connaissent le moindre fragment de notre identité. Ils peuvent nous caractériser par la façon dont nous écrivons nos mails, utilisons la souris sur nos écrans d'ordinateur –et même par celle dont nous tenons nos téléphones portables et faisons glisser nos doigts sur leurs écrans tactiles.

Bientôt, ce sera peut-être aussi la fin de notre anonymat dans l'espace public. La technologie de reconnaissance faciale, de plus en plus omniprésente, utilisée non seulement par les forces de l'ordre mais aussi par des entreprises et même des particuliers, permettra de nous identifier les uns les autres lorsque nous marcherons dans la rue ou que nous nous mêlerons à la foule.

Tel est le monde que Clearview AI, entre autres, rendra possible. L'entreprise américaine spécialisée dans la reconnaissance faciale, a rassemblé, de manière aussi célèbre que controversée, une vaste base de données, extraite du web, qui lui permet d'identifier des millions de personnes. Et vous en faites peut-être partie.

La Ligue des justiciers

Les forces de l'ordre s'impatientent devant les opportunités offertes par Clearview AI. La technologie peut aider à traquer de potentiels délinquants et criminels à partir d'un simple bout de photo.

Dans un cas d'école, la police avait cherché à déterminer l'identité d'un homme à partir d'une photo «sur le compte d'un internaute syrien» documentant des violences sexuelles sur des enfants. En passant l'image dans la base de données de Clearview AI, ils ont trouvé une étrange correspondance –une photo Instagram mettant en scène des bodybuilders lors d'une expo à Las Vegas. Aucun des individus au premier plan ne correspondait au suspect, mais l'homme se cachait à l'arrière-plan, «tout au bord du cadre de la photo», et Clearview AI a pu fournir son identité. Sur cette photo, l'image de l'homme était minuscule –«moitié moins grande que votre ongle». Il n'en a pas fallu davantage pour que la société américaine repère le suspect dans sa base de données comptant 3 milliards d'images.

Sans surprise, l'entreprise de Hoan Ton-That fait l'objet de plusieurs recours juridiques. Clearview AI est sous le coup de plaintes de la part de groupes européens de défense de la vie privée et des droits numériques. Les autorités britanniques et australiennes envisagent de prendre des mesures à son encontre. Et les commissaires à la protection de la vie privée du Canada ont déjà déterminé que «l'aspiration des visages présents sur internet par Clearview AI est illégale et crée un système qui inflige un préjudice général à tous les membres de la société, qui se retrouvent en permanence comme alignés dans un tapissage de police» –probablement parce que la base de données passe en revue le visage de chaque personne dans une recherche effectuée.

Les États-Unis ont été nettement plus lents à s'en prendre à Clearview AI. L'exception est dans l'Illinois, où l'ACLU poursuit la société pour violation de la loi de cet État sur la confidentialité des données biométriques. On peut présager que ces contestations n'iront pas très loin, vu la puissance relative des lobbies technologiques, qui ont jusqu'à présent bloqué les réglementations fédérales en matière de protection de la vie privée, et des syndicats de police, qui réclament l'aide de ces technologies, notamment dans le contexte actuel de recrudescence de la criminalité.

Difficile, comme on dit, de remettre le génie dans la bouteille. Dans ce cas, nous n'aurons peut-être pas d'autre choix que de nous faire à la possibilité que la société modifie considérablement la vie quotidienne, pour le reste d'entre nous, de manière aussi étrange que surprenante.

Le Bon, la Brute et le Truand

Armé de l'identité d'un inconnu, fournie par Clearview AI, vous pouvez effectuer une recherche et découvrir, sur-le-champ, des informations intimes et préoccupantes à son sujet. Surtout s'il s'est livré sur les réseaux sociaux (ce que nous sommes nombreux à faire) et que Facebook répertorie ses affiliations, ses inclinations et ses goûts. Vous pourriez tirer des conclusions sur ses finances, en vous basant sur l'université dans laquelle il a fait ses études, son code postal et sa profession. Ou son dossier de faillite. Vous pourrez savoir s'il est divorcé ou s'il a déjà été arrêté. Jusqu'à récemment, les résultats de recherche d'un de mes amis d'enfance (aujourd'hui PDG d'une entreprise de la région) me faisaient tomber sur son dossier d'adoption.

Cette technologie soulève une foule de questions d'importance: quelle est la valeur de l'anonymat? Quel avantage pourrais-je tirer de la possibilité de me promener en public sans que personne ne sache qui je suis? Si les gens peuvent apprendre des choses sur moi au premier coup d'œil –mes études, mon travail, ma situation financière, si je suis adopté– quelles conséquences cela aurait-il sur leur façon de m'aborder, ou même sur leur envie de m'aborder tout court? J'en viens à songer à toutes les conversations qui n'auront jamais lieu...

Armé de l'identité d'un inconnu, vous pouvez effectuer une recherche et découvrir aussitôt des informations intimes et préoccupantes à son sujet.

Imaginez comment Clearview AI pourrait changer la vie amoureuse. Vous pourriez vous retrouver dans un bar et quantifier immédiatement tous les visages se présentant à vous. Cela pourrait être une aide précieuse, qui vous aiderait à trier le bon grain de la mauvaise herbe, et à décider à qui consacrer votre précieux temps et votre énergie. Qui a le bon emploi et le bon diplôme? Qui est catholique, juif, musulman? Démocrate ou républicain? Qui gagne beaucoup d'argent et vit dans le bon quartier?

Les commerçants apprécieront probablement eux aussi le service offert par l'entreprise américaine. Les employés des magasins pourraient l'utiliser pour vous jauger dès que vous passez la porte. Qu'indiquent vos affiliations sur le type de consommateur que vous êtes? Méritez-vous leur attention et leurs efforts? Vous pourriez rapidement être ignoré en faveur de l'avocat formé à Harvard qui entre juste derrière vous.

Plus sérieusement, des parents pourraient utiliser Clearview AI pour déterminer s'il y a des délinquants sexuels dans leur entourage: au parc, à l'épicerie, dans la rue. Il convient de noter que la liste des délinquants sexuels est très imparfaite et trompeuse. Elle regroupe des pédocriminels avec des personnes qui ont commis des infractions bien moins graves et qui sont en réalité tout à fait inoffensives. Mais les parents se moqueront de cette distinction qu'ils ignorent probablement et se tiendront à l'écart de toute personne figurant sur la liste.

Certains, et même beaucoup, s'opposeront aux violations de la vie privée que permet cette technologie. Je parie que cette hésitation sera brève et que nous surmonterons une fois de plus notre réticence à l'égard de médias envahissants. Si vous avez un certain âge, lorsque vous avez eu votre premier smartphone, vous avez peut-être été dégoûté par le suivi GPS constant, révélant votre position à tout moment. La plupart d'entre nous se sont rapidement assis sur leurs inquiétudes lorsque Waze nous a guidés vers le raccourci le plus proche, ou que Yelp a identifié le meilleur restaurant dans les environs pour nous accompagner directement à sa porte.

De même, la promesse de Clearview AI de vous permettre de gratter les façades de vos congénères sans trop d'efforts est trop alléchante, surtout si vous oubliez que votre propre façade peut également être grattée.

Big Brother is watching you

Clearview AI m'épargne la fatigue du sondage en face-à-face, où je dois engager une conversation minutieuse avec des inconnus pour les cerner et leur poser des questions délicates et approfondies. Je peux aller droit au but et décider instantanément si la personne que j'ai devant moi vaut la peine que je lui consacre du temps ou si c'est quelqu'un que je pourrais, ou devrais, éviter.

Bien sûr, cette technologie nous permettra également de juger les gens plus facilement –et peut-être même injustement. L'empathie et la civilité exigent que nous soyons ouverts, que nous nous abstenions de tirer des conclusions hâtives et que nous donnions aux gens le temps de montrer leur vrai visage, malgré les apparences. Nous devons leur accorder le bénéfice du doute. Parce qu'à cet égard, ils méritent un minimum de respect. Ne devrions-nous pas espérer la réciproque?

Clearview AI pourrait exacerber la conscience de classe. Nos CV, nos affiliations publiques et nos réalisations nous précéderont, littéralement, à chaque coin de rue. Nous serons évalués en fonction de nos marqueurs les plus superficiels.

Je sais bien que nous sommes déjà soumis à ce type de jugement, dans une certaine mesure. Lorsque j'entre dans une soirée, les gens font des suppositions à mon sujet sur la base de plusieurs indices visibles: ma coiffure, mes vêtements, mon poids, la couleur de ma peau, la façon dont je me tiens et dont je marche ou me comporte, si je trahis de la confiance, de l'hésitation ou de l'insécurité. Nous savons cependant que tout cela n'est que conjecture. Mais la technologie que propose Clearview AI donne un air d'autorité et de certitude à nos jugements. Elle nous libère des hypothèses et nous fournit des données qui, par nature, semblent définitives.

Imaginez toute la liberté qui sera perdue. Car il y a bien une liberté dans l'anonymat, après tout. Il y a de la liberté à ne pas être connu ou reconnu. Il y a une liberté dans le fait d'être ignoré, même, et d'être autorisé à faire ce que je veux –dans la limite du raisonnable, bien sûr. C'est libérateur lorsque je descends du train à New York et que je me mêle à la foule. Les gens ne se soucient pas le moins du monde de moi, d'où je vais ou de ce que je fais. Les possibilités semblent infinies.

La technologie que propose Clearview AI donne un air d'autorité et de certitude à nos jugements.

Plus important encore, ces services menacent l'autonomie personnelle. Ils me privent de la possibilité de me définir ou de me présenter aux autres selon mes termes. Ils m'empêchent de raconter mon histoire dans l'ordre des titres et des réalisations que je juge important.

Le charme, l'esprit, l'humour, la grâce... Tout cela sera mis en péril dans le monde de Clearview AI, si l'on me refuse la possibilité de saluer les autres de manière organique, timide, ou pas à pas, ou de leur tendre la main de manière subtile et surprenante. Et bien sûr, Clearview AI nous priverait de la possibilité de rencontrer et de négocier l'altérité. Je peux me focaliser sur mes semblables (comme sur les réseaux sociaux, maintenant partie prenante de l'espace public) et graviter vers eux. Je peux éviter toute personne différente de moi.

La façon dont vous êtes présenté ou caractérisé publiquement sera hors de votre contrôle. Avec Clearview AI, il sera plus difficile d'échapper aux legs ou aux liens dont vous n'êtes pas fier et que vous aimeriez voir disparaître. Si vous essayez de surmonter un passé ignominieux? De redresser votre vie et de vous réhabiliter, ou simplement d'aller de l'avant, de vous améliorer, de vous transformer? Clearview AI le révélera-t-il?

Mieux encore, est-ce que les gens y accorderont la moindre attention? S'ils voient un point noir sur votre dossier, est-ce que cela va surpasser ou obscurcir leur jugement? Pour satisfaire à la loi de moindre action, les gens chercheront des excuses pour passer au suivant.

Iron Man aux commandes

Depuis longtemps, les philosophes affirment que plus nous en savons sur les autres, plus nous sommes empathiques. Les données superficielles ne suffisent pas. Il nous faut des informations intimes, sensibles et complètes. En l'absence de technologie, les anciens stoïciens nous recommandaient d'utiliser notre imagination: si quelqu'un vous offense, inventez une histoire probable, imaginez ce qui a pu façonner son comportement. Que se passe-t-il dans la vie de cette personne pour qu'elle soit si impolie, en colère ou malheureuse? Écoutez patiemment et prenez le temps de découvrir ce qui l'anime. Faites des recherches, réfléchissez et soyez attentif. Apprenez à la connaître, engagez-vous, ouvrez-vous à elle, et elle s'ouvrira à son tour.

Clearview AI n'offre pas la perspicacité nécessaire à la compassion. Paradoxalement, elle offre à la fois trop et trop peu d'informations. Elle en fournit juste assez pour que vous puissiez juger rapidement les gens, mais trop peu pour les évaluer correctement, équitablement et charitablement. La technologie ne nous aide pas à voir les motivations profondes, les intentions sincères, les épreuves et les tribulations.

En sera-t-elle d'ailleurs un jour capable? Elle semble en contradiction avec la pratique de l'empathie. Notre économie numérique évolue à la vitesse de l'éclair et privilégie ce qui est le plus pratique, rapide, facile –souvent inutilement. L'empathie, en revanche, exige du temps, de l'énergie, un investissement personnel et de l'attention. Elle exige que nous ne prenions pas de raccourcis pour comprendre les gens, que nous nous engagions dans un travail difficile, parfois fastidieux et inconfortable, mais toujours gratifiant.

La demande insistante et omniprésente de commodité, que propose et suscite Clearview AI, est un terreau toxique, une bien mauvaise base pour une société morale et une culture de la compassion.

Newsletters

«Est-ce que c'est juste pour le sexe de son côté?»

«Est-ce que c'est juste pour le sexe de son côté?»

[C'est compliqué] Cette semaine, Lucile conseille Anne, qui aimerait clarifier la nature de sa relation avec un homme affirmant ne pas vouloir s'engager.

Logan Nisin, les leçons d'une affaire terroriste d'ultra-droite

Logan Nisin, les leçons d'une affaire terroriste d'ultra-droite

Le parcours des six membres de l'OAS, dont le procès s'ouvre ce 21 septembre, témoigne d'une radicalisation violente symptomatique de ces groupes racistes.

Cliniquement morte pendant 45 minutes, une américaine ressuscite près de sa fille qui accouche

Cliniquement morte pendant 45 minutes, une américaine ressuscite près de sa fille qui accouche

La femme s'est réveillée sans séquelles ni dommages au cerveau.

Podcasts Grands Formats Séries
Slate Studio