Tech & internet / Monde

La fine fleur de la tech américaine au service de l'État policier chinois

Temps de lecture : 7 min

Certains partenariats technologiques permettent la mise en place de méthodes de contrôle allant à l’encontre des droits humains.

Une caméra de surveillance près d'un centre commercial de Pékin, le 18 octobre 2018 | Greg Baker / AFP
Une caméra de surveillance près d'un centre commercial de Pékin, le 18 octobre 2018 | Greg Baker / AFP

La découverte en février 2019, par un chercheur néerlandais en cybersécurité, d’une faille dans la base de données de l’entreprise chinoise SenseNets a mis au jour l’existence d’un gigantesque système de reconnaissance faciale recensant les mouvements de plus de 2,5 millions de personnes dans la province chinoise du Xinjiang –ce qui a brièvement permis d’entrevoir l’ampleur alarmante de la surveillance mise en place par l’État chinois.

Mais il faut bien comprendre que SenseNets n’est que le symptôme d’un phénomène beaucoup plus vaste: sciemment ou non, des entreprises technologiques américaines prêtent leur expertise, leur réputation et même leur technologie à des entreprises de surveillance chinoise.

La base de données de SenseNets indiquait des coordonnées GPS exactes sur une base de vingt-quatre heures, en les associant, à l’aide de la reconnaissance faciale, à des données personnelles sensibles, comme le numéro de carte d’identité, l’adresse du domicile, le nom et l’adresse de l’employeur et des photographies personnelles. Près d’un tiers des individus espionnés appartenaient à la minorité ouïghoure.

Juxtaposant de manière étrange surveillance hégémonique et incompétence sécuritaire, la base de données de SenseNets est restée six mois accessible sur internet avant qu'elle ne soit signalée. D’après le chercheur qui l’a découverte, elle aurait pu être piratée «par un enfant de 12 ans».

Panoptique des temps modernes

Cette découverte laisse penser que SenseNets n’est que l’une des nombreuses sociétés chinoises qui participent à la construction d’un État policier totalitaire hautement technologique dans le Xinjiang, région dans laquelle pas moins de deux millions de ouïghours ont été placés dans des camps de rééducation depuis le début de l’année 2017.

Des témoins ayant vu l’intérieur des camps décrivent des conditions de vie extrêmement difficiles, des tortures et un endoctrinement politique quasiment constant, destiné à pousser le peuple ouïghour, musulman, à abandonner sa foi.

La reconnaissance faciale, l’intelligence artificielle et la surveillance vocale sont des outils de prédilection pour «normaliser» la population ouïghoure, comme souhaite le faire le Parti communiste chinois. Les Ouïghours peuvent être envoyés en camp de rééducation pour une très large palette de délits insignifiants, consistant la plupart du temps en de simples expressions de leur foi. Le Parti surveille l’obéissance de la population au moyen d’une surveillance électronique sans relâche des activités en ligne et physiques.

Ce panoptique des temps modernes demande énormément de travail, mais il sert aussi de terrain d’expérimentation pour les nouvelles technologies qui pourraient, à l’avenir, rendre cette surveillance à la fois moins chère et plus efficace pour l’État.

Dans cette optique, le Parti tire parti de son écosystème technologique très dynamique et il invite les sociétés chinoises à participer par le biais des outils de procuration habituels du gouvernement.

Ce sont des sociétés commerciales qui ont construit les camps de rééducation. Ce sont également des sociétés commerciales qui ont fourni le logiciel qui surveille le peuple ouïghour en ligne, ainsi que les caméras qui épient leurs mouvements physiques.

Bien qu’établies en Chine, beaucoup d’entre elles sont bien représentées dans le secteur technologique international, ce qui soulève d'importantes questions sur l’utilisation qui peut être faite des nouvelles technologies.

Inquiétantes collaborations

En quête de financements et de données, des sociétés étrangères se sont précipitées pour proposer des partenariats, sans se soucier de la manière dont leur technologie allait être utilisée, au Xinjiang ou ailleurs.

En février 2018, le Massachusetts Institute of Technology (MIT) a annoncé un vaste partenariat de recherche avec SenseTime, géant chinois de l’intelligence artificielle et leader mondial de la reconnaissance faciale.

SenseTime détenait alors 49% de SenseNets, avec un personnel technique qui passait très facilement d’une entreprise à l’autre. La société mère de SenseNet, Netposa (également chinoise), possède des bureaux dans la Silicon Valley et à Boston, a fait l’objet d’un investissement stratégique de la part d’Intel Capital en 2010, et a investi dans des start-ups de robotique américaines: Bito, dirigée par une équipe de recherche de l'université Carnegie-Mellon, et Exyn, une société de logiciels de drones participant à un projet sur l’intelligence artificielle de la Defense Advanced Research Projects Agency (Darpa).

La reconnaissance faciale, la 5G ou l’informatique quantique commencent à soulever des inquiétudes quant à la possibilité de les appliquer à des fins militaires.

Ce vaste maillage soulève bien des questions en matière de sécurité nationale et de moralité. Les technologies à double usage sont des technologies pouvant être utilisées tant à des fins civiles que militaires; en tant que telles, elles font l’objet de contrôles plus stricts. Le nucléaire ou le GPS en sont des exemples classiques, mais les nouvelles technologies telles que la reconnaissance faciale, la réalité augmentée, la réalité virtuelle, la 5G ou l’informatique quantique commencent à soulever des inquiétudes quant à la possibilité de les appliquer à des fins militaires.

Outre SenseNets, le leader chinois de la reconnaissance vocale iFlytek pourrait aussi fournir aux autorités chinoises un logiciel permettant de surveiller les communications électroniques dans le Xinjiang. Un brevet déposé en 2013 par iFlytek et repéré par Human Rights Watch vantait notamment sa capacité à «surveiller l’opinion publique». Malgré cela, comme SenseTime, iFlytek a récemment conclu un partenariat de plusieurs années avec le MIT. Les partenariats de ce type ont pour effet de conférer un poids certain et une réputation honorable à des activités permettant de lutter contre les libertés individuelles à l’étranger.

Il est tout aussi inquiétant de constater que les détails de ces collaborations avec des sociétés chinoises peuvent être cachés aux partenaires internationaux, afin de masquer des activités discutables sur le plan éthique.

Le jour où Kenneth Kidd, généticien à l’université de Yale, a partagé des échantillons d’ADN avec un collègue scientifique de l’Institut des sciences judiciaires du ministère chinois de la Sécurité publique, il ignorait totalement qu’ils allaient servir à affiner les techniques de surveillance génétiques dans le Xinjiang.

La société américaine Thermo Fisher, installée dans le Massachusetts, est également impliquée: avant que cela ne soit dévoilé en février 2019, la société vendait des séquenceurs d’ADN directement aux autorités du Xinjiang, pour faire de la cartographie génétique.

Besoin de normes mondiales

Les sociétés et institutions occidentales doivent être beaucoup plus vigilantes quant à la manière dont leurs partenaires chinois utilisent leurs produits, en particulier lorsqu’il s’agit de technologies émergentes.

La reconnaissance faciale est un bon point de départ. Il faut que le secteur mette en place des normes mondiales afin d’en encadrer les applications –c'est-à-dire de prôner des usages qui respectent les droits humains et la loi.

Aux États-Unis, Microsoft est pour l’instant le chef de file du secteur en matière de réglementation, et l’entreprise encourage son personnel, sa clientèle, les autorités publiques, les universitaires et divers groupements de la société civile à développer un ensemble de «principes pour la reconnaissance faciale», qu’elle prévoit de lancer officiellement en ce mois de mars.

Lorsqu’il s’agit d’élaborer une réglementation, le diable se cache souvent dans les détails. Mais les principes (équité, transparence, responsabilité, non-discrimination, information et consentement, surveillance légale) sont sains.

Étonnamment, SenseNets range Microsoft parmi ses partenaires sur son site internet, de même que le fabricant américain de processeurs AMD et la société américaine Amax.

Dans le cas de SenseNets, ces partenariats pourraient être de fausses déclarations de la part d’une société cherchant à accroître sa crédibilité, une collaboration involontaire de la part des sociétés américaines ou une vraie relation commerciale.

«Nous n'avons pu trouver aucune preuve que Microsoft est impliquée dans un partenariat avec SenseNets, nous a déclaré un porte-parole de Microsoft. Nous allons contacter SenseNets afin qu’ils cessent de faire des déclarations inexactes au sujet de notre relation.» Si ces partenariats étaient réels, ils iraient à l’encontre des six principes énoncés par Microsoft, sans exception.

Installée en Californie, la société Amax, spécialisée dans les serveurs haute-performance destinés aux applications d’apprentissage profond, affirme bénéficier d'un partenariat avec Hikvision, une entreprise nationale chinoise qui est le plus gros fournisseur mondial de produits de vidéosurveillance. AMD est aussi impliquée dans une joint-venture chinoise de technologies propriétaires pour processeurs x86.

Appel à la prudence

Malgré une prise de conscience générale sur la façon dont les entreprises américaines participent à la surveillance dans le Xinjiang, le Congrès et le gouvernement américains n’ont pas encore demandé d’enquête sur l’ampleur des liens entre les investissements américains et les partenariats de recherche. La réglementation proposée par le département du Commerce sur le contrôle de certaines technologies émergentes est un début, mais son champ d'application reste flou.

La communauté technologique internationale pourrait aider à guider les applications éthiques de ses développements. Suite à des plaintes émises par son personnel, Goggle aurait suspendu son projet de lancement de Dragonfly, une version censurée de son moteur recherche conçue spécifiquement pour la Chine –même si le projet est soupçonné de ne pas avoir été entièrement abandonné.

Il est nécessaire que les investisseurs prennent des mesures pour comprendre leurs partenaires, afin d’atténuer certains des risques involontaires de ces coopérations.

Les régimes autoritaires ont déjà prouvé qu’ils peuvent utiliser les technologies émergentes pour nuire à la démocratie et aux libertés fondamentales. Par conséquent, les organismes de recherche et de développement occidentaux devraient se montrer prudents dans leurs partenariats et surveiller leurs relations éventuelles avec des régimes dictatoriaux.

Les échanges scientifiques internationaux ont donné naissance à des réalisations impressionnantes, de la découverte du boson de Higgs à l’éradication de la variole. Et les coopérations se développent plus rapidement que jamais.

Mais il est nécessaire que les investisseurs prennent des mesures basiques pour comprendre leurs partenaires, afin d’atténuer certains des risques involontaires de ces coopérations. S’ils n’y parviennent pas, ils finiront par devoir endosser une partie de la responsabilité des violations contre les droits humains commises dans le Xinjiang et ailleurs.

Cet article a initialement été publié sur le site Foreign Policy.

Lindsay Gorman Responsable des technologies émergentes à l’Alliance for Securing Democracy

Matt Schrader Analyste spécialiste de la Chine pour l’Alliance for Securing Democracy

Newsletters

Sur YouTube, la nouvelle star de l'extrême droite est une Américaine de 14 ans

Sur YouTube, la nouvelle star de l'extrême droite est une Américaine de 14 ans

Sa chaîne de vidéos racistes, islamophobes et sexistes compte plus de 800.000 adeptes.

James Bond survivra-t-il au Brexit?

James Bond survivra-t-il au Brexit?

Comment le divorce avec l'Europe pourrait faire caler les Rolls-Royce de l'espionnage.

La Silicon Valley était un rêve, elle est devenue cauchemar

La Silicon Valley était un rêve, elle est devenue cauchemar

Slate publie les bonnes feuilles de «The Valley - Une histoire politique de la Silicon Valley», de Fabien Benoit.

Newsletters