Requiem pour un robot de guerre

Eextrait de Guerre virtuellement : la quête pour automatiser les conflits, militariser les données et prédire l’avenir par Roberto J. González, publié par University of California Press. © 2022 par Roberto J. González.

Je vent fulgurant de fin d’après-midi s’est abattu sur le Camp Taji, une base militaire américaine tentaculaire au nord de Bagdad dans une zone connue sous le nom de Triangle sunnite. Dans un coin désolé de l’avant-poste, où la redoutable Garde républicaine irakienne fabriquait autrefois du gaz moutarde, des agents neurotoxiques et d’autres armes chimiques, un groupe de soldats américains et de Marines s’est solennellement rassemblé autour d’une tombe ouverte, dégoulinant de sueur dans la chaleur de 114 degrés. Ils rendaient un dernier hommage à Boomer, un camarade décédé qui avait été un membre indispensable de l’équipe pendant des années. Quelques jours plus tôt, il avait été littéralement soufflé par une bombe en bordure de route.

UNEUn clairon a sonné tristement les dernières notes de « Taps », un soldat a levé son fusil et a tiré une longue série de salves – un salut de 21 coups de canon. En 2013, les troupes, qui comprenaient des membres d’une unité d’élite de l’armée spécialisée dans la neutralisation des explosifs et munitions (EOD), avaient décoré Boomer à titre posthume d’une étoile de bronze et d’un cœur violet. Avec l’aide d’opérateurs humains, le petit robot télécommandé avait protégé des milliers de soldats du mal en trouvant et en désarmant des explosifs cachés.

Boomer était un robot multi-fonctions agile télécommandé, ou MARCbot, fabriqué par Exponent, une petite entreprise de la Silicon Valley. Pesant un peu plus de 30 livres, les MARCbots ressemblent à un croisement entre un chariot de caméra hollywoodien et un camion Tonka surdimensionné.

réMalgré leur apparence de jouet, les appareils laissent une impression durable. Dans une discussion en ligne sur Reddit à propos des robots de soutien EOD, un soldat a écrit : « Ces petits bâtards peuvent développer une personnalité et ils sauvent tant de vies.

UNEUn fantassin a répondu : « Nous avons aimé ces robots EOD. Je ne peux pas vous en vouloir d’avoir donné à votre homme un enterrement convenable, il a aidé à assurer la sécurité de beaucoup de gens et a fait un travail que la plupart des gens ne voudraient pas faire. Certains membres de l’équipe EOD ont écrit des lettres aux entreprises qui fabriquent les robots, décrivant leur bravoure et leur volonté de se sacrifier.

SCertains combattants ont même personnalisé leurs droïdes avec de l’art « corporel ». Un Marine qui était en poste en Irak m’a parlé du lien étroit qui s’est développé entre un « Johnny 5 » particulièrement résistant – un surnom donné à un type de robot – et les membres de son unité EOD : « Un Johnny 5 en particulier avait vu tellement de choses merde et j’ai survécu à tant d’EEI [improvised explosive devices], qu’ils ont commencé à le tatouer avec des Sharpies », a-t-il expliqué. « L’histoire raconte que lorsque Johnny a finalement rencontré son match, chaque membre de l’équipe a ramené à la maison une partie du corps tatouée. »

BMais alors que certaines équipes EOD ont établi des liens affectifs avec leurs robots, d’autres les ont détestés, surtout s’ils fonctionnaient mal. « Mon équipe avait autrefois un robot qui était odieux », m’a dit un autre Marine qui a servi en Irak. « Il accélérait souvent sans raison, dirigeait dans la direction qu’il voulait, s’arrêtait, et cetera. Cela a souvent abouti à ce truc stupide qui s’est enfoncé dans un fossé juste à côté d’un engin explosif improvisé. Finalement, l’équipe a envoyé le robot en mission suicide lorsqu’ils ont rencontré un engin piégé sur le terrain : « Nous l’avons conduit directement sur la plaque de pression et avons fait exploser ce stupide bâtard en morceaux. »

UNEÀ première vue, il y a quelque chose d’étrange à ce que des guerriers endurcis au combat traitent les appareils télécommandés comme des animaux de compagnie courageux et loyaux ou des mottes de terre maladroites et têtues, mais nous ne devrions pas être surpris. Dans de nombreuses régions, les gens ont des outils et des machines anthropomorphisés, leur attribuant des traits et des caractéristiques humains. Depuis des générations, les insulaires mélanésiens baptisent les canoës de surnoms humoristiques pour reconnaître leurs idiosyncrasies. En Inde, au Guatemala et dans d’autres pays, les chauffeurs de bus nomment leurs véhicules, les protègent avec des images de divinités et les «habillent» de couleurs exubérantes. Tout au long du XXe siècle, les troupes britanniques, allemandes, françaises et russes ont parlé de chars, d’avions et de navires comme s’ils étaient des personnes. Et au Japon, les rôles des robots se sont rapidement étendus aux espaces intimes de la maison, une extension de ce que les anthropologues appellent le « techno-animisme ».

SCertains observateurs interprètent ces récits comme des aperçus troublants d’un avenir dans lequel les hommes et les femmes sont aussi susceptibles de sympathiser avec des machines artificiellement intelligentes qu’avec les membres de leur propre espèce. De ce point de vue, ce qui rend les funérailles de robots énervantes, c’est l’idée d’une pente glissante émotionnelle. Si les soldats se lient avec des pièces maladroites de matériel télécommandé, quelles sont les chances que les humains forment des attachements émotionnels avec des machines une fois qu’ils seront de nature plus autonome, de comportement nuancé et de forme anthropoïde ?

UNEEt puis, il y a une question plus troublante : Sur le champ de bataille, est-ce que Homo sapiens être capable de déshumaniser les membres de sa propre espèce (comme il l’a fait pendant des siècles), tout en humanisant simultanément les robots envoyés pour les tuer ?

UNEEn tant qu’anthropologue explorant le monde de la guerre virtuelle, j’ai été frappé par l’enthousiasme débridé que de nombreux scientifiques, décideurs et journalistes ont pour les systèmes d’armes basés sur les données. Au cours de la dernière décennie, des sous-traitants américains de la défense et des responsables influents du Pentagone ont promu sans relâche les technologies robotiques, promettant un avenir dans lequel les humains et les automates formeront des équipes de combat. L’adoption par le président Joe Biden de «capacités transhorizon» qui «peuvent frapper des terroristes et des cibles sans bottes américaines sur le terrain» est un signal que l’administration actuelle continuera de faire la guerre, virtuellement, à travers le monde.

JCes transformations ne sont pas inévitables, mais elles deviennent une prophétie auto-réalisatrice. Le New York Times note : « Presque inaperçu en dehors des cercles de la défense, le Pentagone a placé l’intelligence artificielle au centre de sa stratégie pour maintenir la position des États-Unis en tant que puissance militaire dominante dans le monde ». Et le Financial Times rapporte que « l’avancée de l’intelligence artificielle apporte avec elle la perspective de robots-soldats combattant aux côtés des humains – et un jour les éclipsant complètement ».

BMais qu’est-ce qu’un « robot-soldat » exactement ? Est-ce une boîte blindée télécommandée sur roues, dépendante de commandes humaines explicites et continues pour la direction ? S’agit-il d’un appareil qui peut être activé et laissé fonctionner de manière semi-autonome, avec une surveillance ou une intervention humaine limitée ? Est-ce un droïde capable de sélectionner des cibles (à l’aide d’un logiciel de reconnaissance faciale ou d’autres formes d’intelligence artificielle) et de lancer des attaques sans intervention humaine ? S’agit-il d’un combattant « centaure », une équipe homme-machine parfaitement intégrée qui optimise les performances sur le champ de bataille ? Des centaines de configurations technologiques possibles se situent entre la télécommande et l’autonomie complète.

Jes systèmes robotiques et autonomes de l’armée américaine comprennent une vaste gamme d’artefacts qui reposent sur la télécommande ou l’intelligence artificielle : drones aériens à nez bulbeux ; des véhicules boxy ressemblant à des chars ; navires de guerre et sous-marins élégants ; missiles automatisés; et des robots de formes et de tailles diverses – androïdes bipèdes, machines « grouillantes » d’insectes, gadgets quadrupèdes qui trottent comme des chiens ou des mulets, et dispositifs aquatiques profilés ressemblant à des poissons, des mollusques ou des crustacés.

JCes divers agencements impliquent différents types de relations et d’interactions entre les personnes et les objets mécaniques, ainsi que de nouvelles questions éthiques sur qui porte la responsabilité des actions d’un robot.

UNEL’anthropologue Lucy Suchman présente succinctement le problème comme une question sur l’action humaine face à la dépendance croissante aux systèmes technologiques. Elle pointe un paradoxe émergent dans lequel « les corps des soldats s’emmêlent de plus en plus avec des machines, dans le but de les tenir à l’écart des corps des autres » – comme les ennemis présumés et les civils vivant sous occupation militaire, par exemple. Comme l’interface homme-machine lie plus étroitement les soldats et les robots, elle sépare physiquement les combattants humains des autres étrangers.

Jes conséquences sont ironiques, potentiellement mortelles. Parfois, les systèmes robotiques et autonomes semblent conçus pour s’assurer que « nos » guerriers ne devraient jamais voir, entendre ou s’approcher des autres ennemis, et encore moins les comprendre, comme si leurs pensées et leurs motivations étaient contagieuses ou contagieuses. Ces tabous et cette pensée magique sous-tendent également une grande partie des logiciels de modélisation comportementale de l’armée, qui sont souvent masqués par la mystique high-tech de l’intelligence artificielle, des mégadonnées et de l’analyse prédictive.

JLa poussée militaire vers les systèmes autonomes est liée à l’interconnexion croissante entre les humains et les technologies en réseau numérique, un processus qui a commencé à la fin du XXe siècle, puis a pris de l’ampleur au début des années 2000. L’archéologue Ian Hodder soutient que les enchevêtrements de haute technologie pourraient être décrits comme des formes de piégeage :

« Nous utilisons des termes tels que livre  » aérien « ,  » cloud « ,  » Web « , termes qui semblent tous légers et sans substance, même s’ils décrivent des technologies basées sur des bâtiments remplis de câbles, une énorme consommation d’énergie, une main-d’œuvre bon marché et processus de production et de recyclage toxiques. … Il serait difficile d’abandonner les smartphones et le big data ; il y a déjà trop investi, trop en jeu. Les choses semblent nous avoir pris le dessus… [and] notre relation avec les choses numériques est devenue asymétrique.

Ja quête du ministère de la Défense pour automatiser et autonomiser le champ de bataille fait partie de ces environnements matériels et culturels plus vastes.

réles élites de l’establishment de la défense des secteurs public, privé et à but non lucratif répètent sans cesse la rhétorique pro-robotisation : les machines assureront la sécurité des troupes américaines car elles peuvent effectuer des tâches ennuyeuses, sales et dangereuses ; ils feront moins de victimes civiles puisque les robots pourront identifier les ennemis avec plus de précision que les humains ; ils seront rentables et efficaces, permettant de faire plus avec moins ; et les appareils permettront aux États-Unis de garder une longueur d’avance sur la Chine, qui, selon certains experts, dépassera bientôt les capacités technologiques américaines.

JLes preuves à l’appui de ces affirmations sont au mieux discutables, et parfois manifestement fausses – par exemple, un drone aérien Predator «sans pilote» nécessite au moins trois contrôleurs humains: un pilote, un opérateur de capteur et un coordinateur du renseignement de mission. Pourtant, les propagandistes et les experts du Pentagone font écho aux points de discussion et, au fil du temps, de nombreuses personnes les prennent pour acquis.

PL’argument rhétorique le plus convaincant est peut-être l’apparente inévitabilité de l’autonomie. Les responsables du Pentagone n’ont qu’à souligner le fait que les constructeurs automobiles et les entreprises de la Silicon Valley développent et testent des voitures autonomes dans les rues et les autoroutes américaines. La dynamique et le battage médiatique favorisent une acceptation rapide de ces technologies, même si de nombreuses interrogations subsistent quant à leur innocuité.

gDans les circonstances, pourquoi ne pas simplement cesser de s’inquiéter et apprendre à aimer les robots ?

Cet extrait a été légèrement modifié pour la longueur, le style et la clarté.