Début juin, Google a décidé de se retirer du projet Maven, le programme phare d’intelligence artificielle (IA) de l’armée américaine. Cette dernière souhaite mettre au point des algorithmes complexes, qui permettraient d’analyser les images filmées par ses drones.
Le projet était absolument confidentiel, à tel point que personne ou presque n’était informé de l’implication de Google (et du but réel du programme) –pas même l'ancien président exécutif de la société mère de Google, Alphabet, qui siège aujourd’hui au Comité consultatif sur l'innovation du département de la Défense.
En refusant de renouveler son contrat avec l’armée sur ce projet, Google a propulsé le sujet sous le feu des projecteurs. Et ce, sur fond de défiance populaire à l’égard des compagnies de hautes technologies qui se voient reprocher leurs contrats gouvernementaux.
Plus de 3.000 employés et employées de Google ont signé une lettre ouverte à l’attention de Sundar Pichai, le PDG de l’entreprise: «Nous estimons que Google ne devrait pas être impliqué dans le business de la guerre». C’est cette levée de boucliers qui a fait reculer le géant.
Tuer ou sauver des vies?
La Silicon Valley refuse de plus en plus de travailler avec le gouvernement, et notamment avec le Pentagone. Un vent de résistance qui soulève des interrogations quant à la viabilité du projet ambitieux de James Mattis, secrétaire américain à la Défense qui cherche à mettre des technologies commerciales de pointe au service de l’armée. Pourtant, tout porte à croire que le département de la Défense continue d’avancer à plein régime sur son programme d’intelligence artificielle –avec ou sans Google.
«Je suis confiant: nous parviendrons à engager des gens talentueux et réellement désireux de nous aider à défendre les États-Unis», a déclaré le général Mike Holmes, commandant de l’Air Combat Command, lors d’une table ronde organisée à Washington le 28 juin. L’intelligence artificielle est «une part importante de notre avenir, et son développement se poursuivra quoi qu’il arrive; le projet Maven est l’une des premières pierres de l’édifice».
La controverse Maven est à l’image des divisions fondamentales qui existent entre Washington et le monde des hautes technologies, à l’heure où le Pentagone cherche à investir massivement dans des secteurs clés tels que l’IA, la vitesse hypersonique et les armes laser. Les employés de Google craignent quant à eux de voir l’armée utiliser leur IA pour tuer. Ce à quoi les (ex-)responsables des programmes en question rétorquent qu’elle servira au contraire à sauver la vie de nombreuses personnes (citoyens américains, alliés, civils).
Mais qu’est-ce, au juste, que le projet Maven? À l’heure où j’écris ces lignes, les analyses des services de renseignement du monde entier passent leurs journées à étudier des millions d’heures d’enregistrements vidéo filmés par des drones survolant des zones sensibles, à la recherche d’objets ou de menaces particulières. Les commandants militaires exploitent ces informations de mille et une manières, qu’il s’agisse de remonter la piste d’un itinéraire de transport du groupe État islamique, ou de passer une zone de frappe au peigne fin pour être certain de ne faire aucune victime civile.
D'autres entreprises pour accomplir cette mission
Depuis sa création en avril 2017, le projet Maven a été déployé sur (au moins) cinq sites clandestins en Afrique et au Moyen-Orient. Son rôle: apprendre aux ordinateurs à traiter les données de surveillance et à les transformer en informations exploitables plus rapidement. Ce processus décuple la vitesse d’obtention des informations clés par les commandants et permet en outre aux agents de se concentrer sur des tâches de plus grande importance, comme l’a expliqué le lieutenant-colonel Gary Floyd, directeur adjoint du projet Maven, lors d’un événement organisé à Washington en mai dernier.
«Nous assistons déjà à ce que d’aucuns appelleraient un tsunami de données, et le fossé se creuse entre la quantité d’informations que nous pouvons recueillir et la quantité d’informations que nous sommes en mesure de traiter, a-t-il affirmé. Embaucher plus de personnel ne servirait à rien. Dès lors, que faire?»
L’objectif du projet Maven est de combler cette lacune en bâtissant un centre complet de classement des données, un centre qui permet d’entraîner les algorithmes complexes afin d’identifier de manière autonome les points d’intérêt nichés au cœur d’innombrables données. C’est précisément là que Google est intervenu: le géant des nouvelles technologies était l’un des partenaires issu du privé sélectionnés pour construire, tester et déployer ces fameux algorithmes.
«Je pense que d’autres candidats sont prêts à signer à court terme; le projet Maven devrait donc se poursuivre»
Seulement, voilà: Google n’est pas la seule entreprise capable d’accomplir une telle mission. Son retrait du projet Maven ouvre la voie à l’un de ses concurrents (Amazon, Microsoft ou IBM, qui avaient tous répondu à l’appel d’offre, mais aussi à de nouveaux candidats), détaille Michael Horowitz, professeur de science politique et directeur adjoint de Perry World House (Université de Pennsylvanie).
«Je pense que d’autres candidats sont prêts à signer à court terme; le projet Maven devrait donc se poursuivre, avance-t-il. Pour le département de la Défense, le risque serait de voir ce premier retrait se transformer en vague de refus.»
De fait, le projet attise la curiosité. À l’occasion du salon annuel Trident Spectre, non loin de Virginia Beach (Virginie), le projet Maven a organisé des démonstrations attirant un millier de visiteurs et visiteuses selon le Pentagone.
Google au service de l'armée chinoise?
Toujours d'après le Pentagone, le projet impliquerait aujourd’hui des start-ups de la Silicon Valley, les plus grandes sociétés mondiales d'IA et de traitement des données, ainsi que les plus grandes institutions universitaires spécialisées dans l’intelligence artificielle des États-Unis –ECS Federal demeurant le partenaire principal.
Horowitz explique encore qu’il sera difficile de refuser de participer au projet sur le long terme: outre les contrats lucratifs du département de la Défense, Maven permettrait aux entreprises concernées d'exercer à la pointe de la sécurité intérieure. Il précise d’ailleurs que les nouveaux principes éthiques de Google en matière d’intelligence artificielle lui permettront à l’avenir de travailler sur de nouveaux programmes militaires (de type Maven).
Matthew Colford, ancien haut fonctionnaire de l'administration Obama (et associé d’Andreessen Horowitz, société de capital-risque californienne ayant soutenu de nombreuses start-ups dans le domaine de la défense) a déclaré que la récente levée de boucliers ne constituait pas une «menace existentielle» pour la relation Pentagone-Silicon Valley. Les employés de Google qui s’opposent aux contrats passés avec l’armée sont en minorité, nuance Matthew Colford, soulignant par ailleurs que l'entreprise compte des dizaines de milliers d'employés, et que seuls 3.000 d’entre eux ont signé la lettre ouverte.
«Google possède un centre en Chine, or ce pays pratique la fusion du civil et du militaire»
Ceci étant dit, le Pentagone souffre clairement d’un problème de communication. «Au bout du compte, l’utilisation qui est faite de leurs produits est souvent mal comprise, résume Matthew Colford. On peut aisément généraliser, les présenter de manière simpliste, dire qu’ils sont utilisés pour tuer des femmes et des enfants. La vérité est beaucoup plus complexe; il s’agit simplement d’un outil parmi d’autres.»
L’ancien secrétaire adjoint à la Défense Bob Work (l’un des acteurs phares du lancement du projet Maven) est quant à lui allé jusqu’à accuser Google d’aider indirectement la recherche en intelligence artificielle de la Chine tout en refusant d’aider le gouvernement américain.
«Google possède un centre en Chine, or ce pays pratique la fusion du civil et du militaire», a-t-il déclaré lors d’un événement organisé à Washington le 26 juin (Bob Work a récemment rejoint le conseil d’administration du cabinet de gestion de données Govini). «Tout ce qui est élaboré dans ce centre sera utilisé par l’armée chinoise.»
Passer à un système basé sur le cloud
Selon les représentants de l’armée, l’élaboration d’intelligences artificielles nées de partenariats avec le secteur privé demeure une priorité pour la sécurité intérieure –notamment parce que les adversaires de l’Amérique (la Russie, la Chine) investissent plus que jamais dans le domaine. Selon Gary Floyd, la Chine consacrera 150 milliards de dollars à l’IA d’ici 2030. Le département de la Défense aurait quant à lui déboursé 7,4 milliards de dollars pour l’IA, le big data et le cloud sur l’année fiscale 2017, si l’on en croit le cabinet Govini.
Le Pentagone vient d’annoncer son intention d’établir un centre officiel consacré à l’IA militaire: le Joint Artificial Intelligence Center. Le nouveau directeur de la recherche du département de la Défense, Michael Griffin, réfléchit aujourd’hui à la structure et à la mission du nouveau centre. Son but: s’assurer que les États-Unis continuent de faire la course en tête.
Le projet Maven n’est qu’un premier pas pour le département de la Défense, qui compte bien explorer le domaine de l’IA plus avant. L’état-major ne redoute pas encore un scénario à la Skynet –le système d’intelligence artificielle de la série de films Terminator, qui développe une conscience propre et tente de détruire l’humanité. Le projet Maven ne se cantonne plus à l’exploitation vidéo, il explore désormais d’autres domaines.
«Notre unique objectif est d’éviter une guerre majeure»
Prochaine étape: passer à un système basé sur le cloud, une évolution capitale qui permettra à l’armée d’exploiter pleinement les avancées du domaine de l’IA. Ce processus prendra la forme de plusieurs initiatives distinctes, telles que la très disputée Joint Entreprise Defense Infrastructure: le contrat pourrait rapporter dix millions de dollars à l’heureux élu au fil des dix prochaines années. Amazon, Microsoft, Google et Oracle feront certainement partie des candidats.
Amazon (et son unité de stockage sur le cloud) a déjà signé pour fournir aux agences de renseignement américaines un service permettant de manipuler des informations confidentielles dans le «nuage» (l’Amazon Web Services Secret Region).
La levée de boucliers des employés de Google? Mike Holmes reconnaît que l’armée gagnerait à mieux formuler ses intentions face à la Silicon Valley comme à l’opinion publique. Il espère parvenir à convaincre les citoyens américains «que notre unique objectif est d’éviter une guerre majeure».
«Les Américains ont des attentes précises quant à l’action de leur gouvernement, et ils peuvent déterminer si l’utilisation que ce dernier fait de la technologie et des outils mis à sa disposition enfreint ou non leurs droits, soutient le général. Nous allons devoir réfléchir, en tant qu’Américains, à notre zone de confort: décider de quand et comment ces technologies peuvent être utilisées.»
