3/3 Laisser les drones faire la guerre à notre place

Cet article est le troisième (le premier est ici et le deuxième là) d'une série de trois sur la guerre technologique. Il a été publié sur Slate.com à la suite d'une conférence organisée par Slate, la New America Foundation et Arizona University qui s'est tenue le 24 mai à Washington DC et dont le thème était: «Warring Futures: How Biotech and Robotics Are Transforming Today's Military—and How That Will Change the Rest of Us» («Les conflits du futur: Comment les biotechnologies et la robotique transforment l'armée d'aujourd'hui - et comment cela va changer les choses pour nous.»)
***
Il y a quelques semaines, je discutais au téléphone avec un journaliste à propos des critiques du sénateur texan John Cornyn contre le Ministère de la sécurité intérieure (Homeland Security). Il lui reproche de tarder à livrer des drones Predator que le Texas compte utiliser pour surveiller sa frontière avec le Mexique. En parlant, je jetais parfois un œil sur mon écran d'ordinateur pour voir ce qu'il arrivait à mes deux plus précieuses possessions, mon équipe de foot virtuelle et mes placements financiers. Si tout allait bien pour les «Raging Pundits», on ne pouvait pas en dire autant de Wall Street. Le cours de certaines sociétés d'envergure nationale et même internationale avait chuté de 60 % en quelques minutes, et l'action d'Accenture ou de Boston Beer allait tomber à un centime avant de remonter à 40 dollars quelques instants plus tard.
Rapprochons les deux évènements. Un homme politique peste parce que le gouvernement fédéral ne lui a pas envoyé de robot pour patrouiller le long de ses frontières. Au même moment, notre système financier part en vrille, échappant à tout contrôle parce que les algorithmes sur lesquels les grandes sociétés financières fondent leur activité se sont mis à se comporter de manière étrange et imprévisible. En pensant à tout cela, j'ai eu l'impression de me retrouver dans I, Robot (le roman d'Isaac Asimov, pas le navet avec Will Smith). A la fin du livre, l'humanité s'est habituée à vivre aux côtés des robots et une intelligence artificielle dirige une économie devenue bien trop complexe pour être laissée aux mains des traders.
Quand l'armée américaine a envahi l'Irak en 2003, elle ne possédait qu'une poignée d'avions télécommandés, couramment appelés «drones», mais dont la désignation précise est «systèmes aéromobiles sans pilote.» Aujourd'hui, nous en avons plus de 7.000, qui vont du Predator long de 15 mètres au micro-appareil qu'un soldat peut porter dans son sac à dos. Nos forces d'attaque n'utilisaient aucun «véhicule terrestre sans conducteur», mais nous en avons désormais plus de 12.000, comme le Packbot, qui fait la taille d'une tondeuse à gazon, ou le Talon, un peu plus petit, tous les deux capables de détecter et de désarmer les bombes artisanales cachées au bord des routes. Le Packbot est fabriqué par la même société qui produit le robot aspirateur Roomba. Cette société s'appelle iRobot.
Ces machines pourtant bien réelles peuvent nous sembler sorties tout droit d'un film de science-fiction, mais il ne faut pas oublier que nous n'en sommes qu'à la première génération, l'équivalent de ce que fut la Ford T pour l'automobile ou le Flyer des frères Wright pour l'aviation. A ce titre, l'Air Force et l'armée de terre viennent d'établir des feuilles de route qui prévoient d'utiliser toujours plus de robots autonomes et armés. Si, face à des évolutions si rapides et profondes, on peut facilement rester bouche bée, un peu comme les traders à Wall Street il y a quelques semaines, il faut se rappeler que nous avons déjà traversé des bouleversements semblables. De nombreux experts comparent nos systèmes «sans pilote» aux véhicules «sans chevaux» du début du 20ème siècle. Or l'automobile joue aujourd'hui un rôle central dans nos sociétés. Elle a permis de mécaniser l'industrie, le transport et la guerre, mais elle a aussi changé radicalement l'organisation des grandes villes, donné beaucoup de pouvoir à des nomades du Moyen-Orient qui vivaient sur des terres désertiques dont personne ne voulait, et contribué au réchauffement de la planète.
Comme l'automobile, la poudre à canon, l'imprimerie ou la bombe atomique, la robotique promet de bouleverser en profondeur nos modes de vie. Cette nouvelle technologie semble receler un potentiel extraordinaire, mais ce qui compte avant tout, c'est la manière dont elle va changer nos sociétés. Nous ne connaissons pour l'instant ni la nature ni l'étendue de ces changements, mais si nous voulons les contrôler, il faut commencer par poser les bonnes questions.
Comment l'armée va-t-elle absorber ces nouvelles technologies?
En l'espace de quelques années, malgré la lenteur d'une bureaucratie souvent rétive au changement, l'armée américaine est passée de zéro à des milliers de robots. Malheureusement, comme me l'a expliqué un capitaine de l'Air Force, l'attitude dominante n'est pas «Réfléchissons afin d'optimiser», mais plutôt «J'en veux plus!»
Il faudra donc que le Pentagone résiste à l'habituelle tentation d'acheter des systèmes compliqués, peu flexibles et hors de prix, équipés de microprocesseurs plaqués or fabriqués dans les circonscriptions des membres du Congrès chargés de choisir les fabricants de ces mêmes systèmes.
Il est également indispensable d'organiser un débat sur la façon dont il faut utiliser ces robots, ce que les militaires appellent une «doctrine». Car la doctrine peut décider de l'issue d'une guerre, selon qu'elle orientera les États-Unis vers la version moderne de la Ligne Maginot ou de la Blitzkrieg. Et un tel débat ne concerne pas uniquement les questions tactiques, mais également la formation des soldats et l'organisation de l'armée. Quel type d'aide et de soutien faudra-t-il apporter aux personnes qui utiliseront ces nouvelles technologies et qui, si elles ne sont pas engagées physiquement sur le champ de bataille, sont pourtant exposées à de nouveaux types de stress? Quelles évolutions de carrière pourrons-nous leur proposer afin que l'inertie d'une organisation aussi vaste que l'armée ne l'empêche pas de s'adapter à ces changements? Il faudra aussi repenser le rôle des combattants et des civils à l'intérieur de ce nouvel espace technologique. A ce titre, est-il normal que 75% du travail d'entretien et de chargement des munitions sur le Predator aient été sous-traités à des entreprises privées, dont l'une des plus controversées, Blackwater/Xe?
Dans une guerre, comment les robots sont-ils perçus ?
A la date du 3 mai 2010, les véhicules américains sans pilote avaient effectué 131 frappes en territoire pakistanais, soit trois fois plus que le nombre de sorties effectuées par des avions conventionnels au début de la guerre du Kosovo, il y a dix ans. Selon les critères qui prévalaient alors, nous sommes en guerre avec le Pakistan. Mais alors, pourquoi estimons-nous ne pas être en guerre avec ce pays? Serait-ce parce que ces attaques sont planifiées et décidées par la CIA et non par l'armée? Une chose est sûre, cet état de fait a considérablement réduit l'ampleur du débat concernant ces frappes. Mais sommes-nous retombés dans les mêmes ornières qu'en 1961, lorsque la CIA maquilla des bombardiers B-26, en violation des conventions internationales, pour les envoyer soutenir l'invasion de la baie des Cochons, avec le résultat que l'on sait?
Nous sommes dans une situation pour le moins curieuse: la seule véritable guerre aérienne dans laquelle les États-Unis sont engagés n'est pas dirigée par un général de l'Air Force, mais par un ancien élu de la Californie au Congrès. Cela signifie non seulement que des civils américains utilisent des armes de guerre contre d'autres pays, mais aussi que ce sont des civils, notamment des juristes, qui doivent trancher des questions complexes liées aux concepts et à la stratégie opérationnels ou aux règles d'engagement. Or ils n'ont été ni formés ni élus pour de telles missions.
La perception qu'a l'ennemi de ces questions est tout aussi importante. A environ 10.000 kilomètres des États-Unis, nos frappes «précises» et «efficaces» sont perçues comme «cruelles» et «lâches» par la presse du Moyen-Orient. «Drone» est devenu un terme péjoratif dans la langue urdu et des groupes de rock pakistanais chantent une Amérique qui a perdu tout sens de l'honneur.
Contrairement à ce que prétendent les médias des deux camps, les hommes et les femmes qui pilotent nos armes robotiques font des efforts surhumains pour minimiser les pertes civiles, et celles qu'ils occasionnent sont insignifiantes comparées à celles causées dans n'importe quelle autre guerre passée. Mais cela ne change rien au fait que ces efforts ne parviennent pas à redorer notre blason dans certaines régions du monde. Et si nous n'arrivons pas à reprendre le contrôle du récit qui est en train de s'écrire, les États-Unis risquent de se retrouver dans le rôle d'Israël à Gaza, où les attaques ciblées de Tsahal contre des chefs du Hamas ont pour effet collatéral de pousser de plus en plus de jeunes garçons à rejoindre les rangs de l'organisation islamiste.
Les lois peuvent-elles suivre?
Les systèmes sans pilote ne sont pas seulement utilisés en zone de combat. Le ministère de la sécurité intérieure va les employer pour surveiller les frontières et la police locale cherche aussi à en obtenir (le comté de Miami-Dade vient d'obtenir une autorisation). Mais si la plupart des robots sont utilisés pour lutter contre la criminalité, repérer les feux de forêt, retrouver des survivants du tremblement de terre à Haïti ou colmater les fuites de pétrole (pour reprendre quelques exemples d'utilisations concrètes), certains sont utilisés à des fins moins louables. A Taiwan, des voleurs en ont utilisé pour cambrioler des appartements, et, en Arizona, les «milices des frontières», qui opèrent à la limite de la légalité, ont envoyé des drones effectuer des patrouilles non autorisées par l'Etat.
Ce phénomène de prolifération va nous obliger à aborder des questions qu'on ne se pose pas habituellement à propos des robots, comme par exemple celles des autorisations légales et de la formation. Par ailleurs, les robots enregistrent et accumulent des informations de toutes sortes. Selon un juge fédéral à qui j'ai parlé, cela va poser des problèmes en terme de protection de la vie privée et de validité des preuves recueillies de cette manière, problèmes qui remonteront certainement jusqu'à la Cour suprême. Le deuxième amendement de la Constitution m'autorise-t-il à posséder et à utiliser des armes robotiques? Pour l'instant, on dirait une blague, mais où faut-il tracer la limite, et en se basant sur quoi? A Atlanta, un patron de bar a construit un «robot anti-clochard» équipé d'une caméra infrarouge, d'un projecteur, d'un haut-parleur et d'un canon à eau. Il s'en sert pour chasser les SDF et les dealers qui s'installent sur le parking de son établissement.
Le problème n'est pas tant que les robots prennent des décisions à notre place, mais plutôt que le rôle joué par les être humains dans le processus de décision est déplacé géographiquement et chronologiquement. De quelques mètres pour le robot anti-clochard, de milliers de kilomètres pour les Predators ou de plusieurs années dans le cas des concepteurs de ces machines. Or ces décisions humaines influent lourdement sur le comportement de ces systèmes. En 2007, en Afrique du Sud, suite à un «problème logiciel», un canon anti-aérien automatique a tué neuf soldats pendant un entraînement. Enquêter et rendre une décision de justice sur de tels accidents, qui font penser à la célèbre scène de RoboCop, n'a rien d'évident.
Le progrès technologique semble accélérer à un rythme exponentiel, mais nos institutions peinent à suivre. Ainsi, les loi de la guerre, telles que définies par la Convention de Genève, ont été écrites à l'époque où les gens écoutaient Al Jolson en 78 tours et où une maison coûtait en moyenne 7.400 dollars. Comment ces lois s'appliquent-elles lorsqu'une arme du 21éme siècle comme le MQ-9 Reaper est utilisée contre un insurgé qui viole ces mêmes lois en se cachant dans une maison habitée par des civils ?
Les États-Unis vont-ils prendre le chemin du Commodore 64?
La robotique est un secteur industriel en pleine expansion, où les volumes de ventes se comptent déjà en milliards de dollars et dont la courbe de croissance s'annonce exponentielle. Le rôle croissant qu'elle tient dans la conduite de la guerre la place dès aujourd'hui au centre des questions de sécurité nationale. Malgré cela, et à la différence de la Corée, ou même de la Thaïlande, les États-Unis n'ont pas de stratégie nationale dans ce domaine. Comment comptons-nous concurrencer les 43 pays qui fabriquent, achètent et utilisent des robots militaires, dont certains alliés comme le Royaume-Uni ou l'Allemagne, mais aussi des rivaux comme la Russie, la Chine ou l'Iran? Pourrons-nous garder une longueur d'avance, ou allons-nous rester sur le bord de la route, comme tant d'autres pionniers de l'innovation technologique?
A ce propos, l'état de notre secteur industriel et le niveau de nos écoles en mathématique ou en science ont de quoi nous inquiéter. Par exemple, les États-Unis forment aujourd'hui moins d'ingénieurs qu'en 1986. Mais pas d'inquiétude, l'offre de diplômes dans le domaine des « parcs, loisirs, bien-être et forme physique» a augmenté de 500%.
Que devons-nous attendre de la révolution «open source»?
En terme de complexité, les robots n'ont rien à voir avec les porte-avions ou les bombes atomiques. La plupart des pièces qui les composent peuvent être achetées, et même fabriquées, assez facilement. La Luftwaffe d'Hitler n'a jamais réussi à traverser l'Atlantique pendant la Deuxième Guerre mondiale, mais un aveugle âgé de 77 ans vient de le faire avec un drone qu'il a construit lui-même. Il apparaît donc inévitable que ces technologies finissent par tomber en de mauvaises mains. Ainsi, le Hezbollah a utilisé quatre drones contre Israël au Liban et, selon la rumeur, Al-Quaeda aurait cherché à utiliser des drones pour attaquer un sommet du G-8.
Comme l'a rappelé la commission d'enquête sur les attentats du 11 septembre 2001, une telle tragédie a été rendue possible par notre «incapacité à imaginer l'inimaginable». Nous serons très probablement confrontés aux mêmes difficultés dans le domaine de la robotique. C'est pourquoi nous devons établir des stratégies militaires et de sécurité intérieure qui gouverneront l'utilisation de ces technologies sophistiquées, mais qui prendront aussi en compte la manière dont nos adversaires risquent de les utiliser contre nous. Cela signifie élargir le spectre des menaces contre lesquelles nos différentes agences doivent se préparer. Il faudra également établir un cadre légal définissant qui peut avoir accès à ces technologies, ou nous risquons fort de voir nos ennemis nous attaquer avec nos meilleures armes.
On peut bien sûr être tenté de ne pas prendre tout cela très au sérieux. Et il est vrai qu'un débat portant sur des lois applicables uniquement aux robots semble plus à sa place dans une convention de science-fiction que dans une conférence organisée par Slate à Washington. Mais souvenez-vous de ces vieilles chimères: le sous-marin de Jules Verne, «l'aéroplane militaire» de A. A. Milne, les «cuirassés terrestres» de H. G. Welles (rebaptisés «tanks» par Winston Churchill) et, bien sûr, la bombe atomique. Ce qui n'était qu'imaginaire il y a quelques décennies et devenu réalité à une vitesse incroyable.
Il est donc indispensable que des gens sérieux se penchent sur ces problèmes sérieux qui ne vont pas manquer de se poser bientôt. D'autant qu'avec les robots, on ne peut pas faire comme à la Bourse: annuler les opérations d'achat-vente qui nous dérangent et faire comme si rien ne s'était passé.
P.W. Singer
Traduit par Sylvestre Meininger
Photo: Un drone israélien de surveillance REUTERS/Gil Cohen Magen