Tech & internet / Monde

Surveillance de masse: les tyrans du passé en rêvaient, la Chine l’a fait

Temps de lecture : 8 min

Le moment est venu pour les démocraties libérales de s'attaquer au pouvoir d'invasion de la vie privée de l'autoritarisme algorithmique.

Reconnaissance faciale. | Sheila Scarborough via Flickr License by
Reconnaissance faciale. | Sheila Scarborough via Flickr License by

Les technologies de surveillance sont plus populaires que jamais aux yeux du gouvernement chinois, qui les utilise pour contrôler ses citoyens à diverses échelles. Pékin scanne le visage des passants, ce qui lui permet d’arrêter les criminels dans les gares, dans les stations-service et dans les stades –et de diffuser publiquement les noms des piétons indisciplinés. Un système de «crédit social» a été mis en place par le gouvernement: le score des citoyens chinois baisse lorsque ces derniers fréquentent des dissidents, ce qui peut leur faire perdre droits et privilèges.

Au Tibet et au Xinjiang, le gouvernement utilise la reconnaissance faciale et le big data pour suivre les déplacements (individuels et collectifs) des minorités ethniques afin de prévoir et réprimer les manifestations avant qu’elles ne commencent. La reconnaissance faciale permet même à Pékin d’empêcher l’utilisation excessive de papier hygiénique dans certaines toilettes publiques.

On pourrait bientôt voir les dictateurs d’autres pays utiliser ce type d’outils. Si les villes et les États américains sont des laboratoires pour la démocratie, les lointaines provinces chinoises sont devenues les laboratoire de l’autoritarisme. La Chine exporte une gamme d’outils (surveillance, reconnaissance faciale, données) acquis par plusieurs gouvernements étrangers, de nature à organiser une répression d’une envergure et d’une efficacité algorithmique dont les tyrans d’antan pouvaient seulement rêver. On pourrait parler ici d’«autoritarisme algorithmique».

Une technologie utile, aux dérives faciles

Les dictateurs d’hier devaient se contenter d’informateurs individuels et d’enquêtes au cas par cas. Ceux de demain pourront –comme la Chine– identifier des milliers d’individus spécifiques, en public et à distance, à l’aide de caméras. Les suivre constamment à la trace, et utiliser une intelligence artificielle ainsi que des outils informatiques sans précédent pour traiter les informations de surveillance et les renvoyer sur le terrain en temps réel. Cette technologie est encore appliquée de manière imparfaite et peu cohérente, mais la Chine est en train de combler ses lacunes. On a par ailleurs constaté que le comportement d’une population pouvait être influencé par la perception de la surveillance, même lorsque cette dernière est, en réalité, absente.

Jusqu’où la Chine est-elle prête à aller dans l’utilisation de ces outils sur son territoire et dans leur exportation à l’étranger? Nous l’ignorons. Pire: l’autoritarisme numérique de Pékin pourrait bien devenir un modèle exportable, à même de séduire les dirigeants qui doutent des bienfaits des normes démocratiques. Un modèle qui pourrait bien miner (voire rivaliser avec) les démocraties libérales.

Caméras de surveillance, place Tiananmen. | Andrey Belenko via Flickr License by

Si ce modèle –la dictature assistée par la technologie– est complexe, c’est notamment parce que les outils qu’il utilise pourraient s’avérer particulièrement utiles pour les consommateurs et les citoyens du monde entier. Ce sont des outils à double tranchant. On peut citer l’exemple surréaliste de ce tueur en série présumé, arrêté après qu’un membre de sa famille a envoyé un échantillon d’ADN à un site de base de données généalogiques (l’ADN correspondait à un échantillon trouvé sur une scène de crime).

Autre exemple récent: le responsable présumé de la fusillade dans les locaux d’un média du Maryland a rapidement été identifié à l’aide de la reconnaissance faciale. En Inde, les membres de la caste inférieure peuvent désormais recevoir des aides de l’État grâce au système d’identification Aadhaar, qui consiste en une base de données recueillant les scans d’iris de plus d’un milliard de personnes (des centaines de milliers d’Indiens étaient jusqu’ici privés de cartes d’identité).

Citons également le cas des Londoniens, protégés par un nombre incalculable de caméras de sécurité –ou celui de la Nouvelle-Orléans, qui bénéficie d’un projet pilote: une technologie de prédiction des crimes, gracieusement mise en place par la société Palantir. Même dans les démocraties bénéficiant d’un sain équilibre des pouvoirs, l’utilisation policière de l’intelligence artificielle souffre de plusieurs lacunes: manque de transparence, consultation insuffisante des citoyens, risques sérieux d’utilisation biaisée et excessive.

Aux quatre coins du globe

Outre la Chine, les pays les plus friands de ces technologies sont à la fois autoritaires, petits et développés, comme les Émirats arabes unis ou Singapour. La petite cité-État a commandé à la Chine 110.000 capteurs de reconnaissance faciale particulièrement perfectionnés, qui seront installés sur les lampadaires. La Chine, qui vient de lancer un énorme projet de construction d’infrastructure à mille milliards de dollars (l’initiative «la Ceinture et la Route»), exporte déjà son propre arsenal d’outils technologiques totalitaires pour son propre profit, pour s’attirer les faveurs des autorités locales, ou tout simplement pour étendre son réseau de surveillance.

Ces technologies feront un jour leur entrée dans des sociétés plus grandes et plus tumultueuses. Que se passera-t-il alors? Cette transition ne se fera pas du jour au lendemain. Il serait particulièrement difficile de déployer ces outils en masse –les obstacles financiers et logistiques sont nombreux. Mais dans une décennie ou deux, les dictateurs et les tyrannies en herbe (Turquie, Hongrie, Égypte, Rwanda...) chercheront certainement à obtenir ces technologies, s’en serviront pour réprimer la société civile et pour écraser l’opposition, affaiblissant par là même la démocratie dans le monde entier.

«Une cité intelligente est une cité sûre, équipée de caméras et de capteurs omniprésents. Un centre de commandement permettra de contrôler la ville entière»

Le Zimbabwe serait déjà en train de solliciter des entreprises chinoises pour installer des programmes de surveillance et de reconnaissance faciale à l’échelle nationale –et ce sur fond d’investissements dans l’infrastructure chinoise et d’accords de sécurité plus étendus (notamment quant au contrôle de la communication en ligne). La Chine va ainsi acquérir de nombreux visages d’Africains, ce qui va permettre à son secteur technologique d’améliorer son ensemble de données.

Au printemps dernier, la Malaisie a, elle aussi, annoncé de nouveaux partenariats avec la Chine, qui équipera ses forces de police de caméras portatives à reconnaissance faciale. Selon quelques rapports discrets, des pays du Golfe feraient également appel à la Chine, non seulement pour ses drones (une technologie que l’Amérique refuse de leur céder), mais aussi pour sa gamme d’outils totalitaires (surveillance, reconnaissance, données) –des outils testés et perfectionnés dans les provinces chinoises.

Dans un récent article consacré à l’Égypte (où l’armée souhaite construire une nouvelle capitale, sans le chaos et les places révolutionnaires du Caire), un général à la retraite, porte-parole du projet, expliquait: «Une cité intelligente est une cité sûre, équipée de caméras et de capteurs omniprésents. Un centre de commandement permettra de contrôler la ville entière». Qui finance la construction de cette nouvelle cité? La Chine.

Il est temps de mettre au point des solutions viables

De nombreux gouvernements tentent de sécuriser les informations qu’ils recueillent, mais plusieurs cas alarmants de fuites de données ont été signalés. En outre, ces identifiants nationaux représentent un risque sans précédent de surveillance d’État à grande échelle. Que penser de la collecte d’informations biométriques par des régimes non-démocratiques? En 2016, les informations personnelles de près de cinquante millions de citoyens turcs ont fuité.

Il est temps que les personnes chargées de défendre les libertés individuelles –au sein des gouvernements, de la société civile et du secteur de la technologie– réfléchissent sérieusement aux défis qui se profilent à l’horizon.

Il faudra commencer par de la transparence et de la sensibilisation à domicile, dans les forums internationaux, puis au sein des nations pouvant potentiellement adopter ces outils de l’autoritarisme algorithmique. Les diplomates, les PDG et les militants (entre autres acteurs) devront utiliser leurs tribunes respectives pour informer les citoyens. Les organes de contrôle (Congrès américain, Parlement européen) devraient convoquer les entreprises de haute technologie et les organismes gouvernementaux qui facilitent l’exportation de la boîte à outils totalitaire au nom des bénéfices ou des parts de marché. Ces entités doivent répondre de leurs actes.

Il sera difficile d’instaurer des normes internationales dépassant la sphère des démocraties existantes, mais il est primordial d’essayer.

Il faudra également mettre au point un protocole d’utilisation raisonnable et équilibré de ces nouvelles technologies en démocratie: la chose s’avérera indispensable si nous voulons convaincre d’autres États de faire de même. Dans un récent billet de blog, Brad Smith, le président de Microsoft, appelle peu ou prou de ses vœux une étude poussée et une réglementation stricte de cet espace technologique. Le message est clair: il est désormais temps de combler le fossé qui sépare technologie et politique, temps de mettre au point des solutions viables et éthiques.

Il sera difficile d’instaurer des normes internationales dépassant la sphère des démocraties existantes, mais il est primordial d’essayer. Une organisation internationale –que ce soit l’Union européenne ou les Nations unies– devra mettre en place un ensemble de pratiques recommandées pour la protection des droits individuels à l’ère de la reconnaissance faciale. Les grandes entreprises et les nations pourraient signer un engagement commun visant à protéger les citoyens en fixant les limites de cette reconnaissance, en permettant à la population de refuser le partage d’informations biologiquement identifiables (les Indiens se sont battus pour ce droit et l’ont obtenu), ou en sécurisant le stockage des données d’identification.

Une répression d’une envergure sans précédent

La Chine (et les autres régimes autoritaires) pourraient certes refuser d’abandonner ces technologies répressives qu’ils adoptent pour l’heure avec zèle. Selon Nicholas Wright, chercheur à l’université de Georgetown, il serait plus réaliste de convaincre les pays indécis en évoquant le coût de la répression en termes de réputation, et de soutenir ceux qui prennent la défense des libertés individuelles de leurs propres citoyens dans ce domaine.

Les partisans du modèle démocratique (qui ne comptent plus la Maison-Blanche dans leurs rangs, espérons qu’elle les rejoigne bientôt) doivent également prendre acte de l’évolution imminente de la sphère publique des pays autoritaires. Ils peuvent agir dès aujourd’hui en permettant aux populations et aux sociétés civiles vulnérables d’acquérir une meilleure connaissances des nouvelles technologies –ce qui leur permettra de mieux défendre leurs droits dans ces nouveaux domaines. Les gouvernements et les ONG doivent aussi étudier les contre-mesures technologiques et tactiques permettant de contourner et de perturber ces nouveaux outils totalitaires.

Tous les acteurs en présence devront aborder le dossier avec humilité, en gardant bien à l’esprit le fait que la Silicon Valley n’a pas le monopole de la technologie. Quoi qu’il arrive aux États-Unis ou en Europe, la Chine continuera de développer ses redoutables capacités locales et continuera de les exporter dans le reste du monde.

Il y a sept ans, les techno-optimistes appelaient de leurs vœux une vague de nouveaux outils numériques (réseaux sociaux, expression personnelle) susceptibles d’aider les jeunes du Moyen-Orient et d’autres régions à trouver leur voix. Aujourd’hui, une nouvelle vague d’avancées technologiques chinoises menace de faire éclore un «printemps arabe à l’envers», qui verrait la nouvelle vague numérique inverser la tendance en permettant aux États de réprimer leur peuple. Une répression d’une envergure sans précédent, et d’une efficacité toute algorithmique.

Les Américains ont tout à fait raison de concentrer leurs efforts immédiats sur les hackers d’État du Kremlin, responsables de piratages et de fuites d’informations –car le principal bénéficiaire des opérations russes occupe le Bureau ovale. Mais nous devons aussi jouer un rôle autrement plus actif dans la lutte contre les outils de l’autoritarisme algorithmique: ils sont en passe de façonner l’avenir des libertés individuelles.

Daniel Benaim

Hollie Russon Gilman

Newsletters

Google traque tous ses usagers… même ceux qui désactivent leur localisation

Google traque tous ses usagers… même ceux qui désactivent leur localisation

Deux milliards d’utilisateurs seraient affectés.

Il a fallu 10 minutes à un enfant de 11 ans pour pirater les résultats d’une élection américaine

Il a fallu 10 minutes à un enfant de 11 ans pour pirater les résultats d’une élection américaine

Et si, finalement, rien ne valait le bon vieux bulletin de vote en papier?

Pour les employés de Facebook, c’est la fin de la nourriture gratuite

Pour les employés de Facebook, c’est la fin de la nourriture gratuite

La commune de Mountain View en Californie a décidé qu'il était temps de défendre ses commerçants.

Newsletters