Avis | La guerre d’Ukraine a donné à l’algorithme son ouverture, mais des dangers guettent

Au camp britannique, les instructeurs ont creusé 300 mètres de tranchées à travers une colline glaciale. Les tranchées sont profondes de quatre pieds, ceintes de sacs de sable et de planches, et recouvertes de boue et d’eau au fond. Les recrues ukrainiennes, qui n’ont jamais combattu auparavant, doivent passer 48 heures dans ces enfers. Parfois, il y a des tirs d’artillerie simulés au-dessus de la tête et de la chair animale en décomposition à proximité pour préparer les stagiaires à l’odeur de la mort.

Les recrues s’entraînent à attaquer les tranchées et à les défendre. Mais surtout, ils apprennent à rester en vie et aussi au chaud que possible, protégeant leurs pieds humides et gelés de la pourriture et des maladies. « Personne n’aime les tranchées », explique Oleh, l’officier ukrainien qui supervise l’entraînement avec ses collègues britanniques. (Je n’utilise pas son nom complet pour respecter les inquiétudes concernant sa sécurité.) « Nous leur disons que ce sera plus facile au combat. Si c’est dur maintenant, c’est le but.

Le paradoxe du conflit en Ukraine est qu’il combine le cauchemar de la guerre de tranchées de la Première Guerre mondiale avec les armes les plus modernes du XXIe siècle.

« Il est difficile de comprendre la brutalité des contacts sur cette ligne de front. C’est Passchendaele à Donetsk », explique le brigadier Justin Stenhouse, rappelant l’une des batailles les plus sanglantes de la Première Guerre mondiale. Il supervise l’entraînement pour le ministère britannique de la Défense à Whitehall et a organisé ma visite au camp d’entraînement.

Le lieutenant-colonel Jon Harris, le commandant britannique du camp, déclare sans ambages sa mission d’entraînement : « Apprenez à survivre et à gagner contre la Russie ».

La guerre en Ukraine a fusionné la bravoure en chair et en os de ces troupes ukrainiennes sur le terrain avec l’étonnant arsenal de haute technologie que j’ai décrit dans la première partie de ce rapport. Le résultat est une révolution dans la guerre. Cette transformation, rarement évoquée dans les médias, évolue depuis plus d’une décennie. Cela montre la capacité mortelle des États-Unis et de leurs alliés à projeter leur puissance – et cela soulève également des questions épineuses sur la manière dont cette puissance sera utilisée.

L’un des principaux acteurs de cette révolution sous-estimée a été Palantir, qui a initialement développé sa plate-forme logicielle après les attentats du 11 septembre 2001 pour aider la CIA à intégrer des données qui se trouvaient souvent dans des compartiments différents et difficiles à partager. Les reportages ont fréquemment déclaré que le logiciel Palantir avait aidé à suivre le chef d’Al-Qaïda Oussama ben Laden, mais la société ne le confirmera pas.

L’utilisation par le Pentagone de ces outils ultramodernes a été encouragée par un commandant très démodé, le général Mark A. Milley, le président bourru et souvent profane des chefs d’état-major interarmées. Lorsqu’il était chef d’état-major de l’armée en 2018, le service a commencé à travailler avec Palantir et d’autres entreprises technologiques pour intégrer des données via un programme appelé Army Vantage. Milley était frustré par un système de données obsolète qui rendait difficile la collecte de détails sur les unités prêtes au combat. L’armée, comme tant d’institutions gouvernementales, disposait de trop de référentiels d’informations distincts.

Les techniciens de Palantir m’ont montré une version non classifiée de la base de données de l’armée qu’ils ont aidé à créer pour résoudre ce problème. Vous pouvez voir en un instant quelles unités sont prêtes, quelles sont les compétences et l’expérience des soldats de ces unités, et quelles armes et munitions sont disponibles. Des problèmes logistiques comme celui-ci prenaient autrefois des semaines à résoudre; maintenant il y a des réponses en quelques secondes.

« L’armée américaine se concentre sur la préparation aujourd’hui et la préparation à l’avenir », m’a dit Milley dans un e-mail la semaine dernière. « Pour défendre notre pays, nous rassemblons une grande variété de technologies pour rester numéro un, la force de combat la plus efficace au monde. »

L’armée a également commencé à tester des idées sur la guerre algorithmique avec des unités individuelles à cette époque également. Le premier choix était la 82nd Airborne d’élite, commandée en 2020 par le major-général Christopher Donahue ; il faisait partie du XVIII Airborne Corps, alors dirigé par le lieutenant-général Michael « Erik » Kurilla. Ces deux-là ont travaillé avec Palantir et d’autres entreprises pour comprendre comment l’armée pourrait utiliser les données plus efficacement.

Simultanément, le Pentagone explorait l’utilisation de l’intelligence artificielle pour analyser les données des capteurs et identifier les cibles. Cet effort était connu sous le nom de Project Maven, et il a initialement engendré une énorme controverse lors de son lancement en 2017. L’idée était d’écrire des algorithmes qui pourraient reconnaître, par exemple, un char russe T-72 dans les images de surveillance de drones de la même manière que le visage. les scans de reconnaissance peuvent discerner un visage humain.

Le partenariat de l’IA militaire avec la Silicon Valley a mal commencé. En 2018, les ingénieurs de Google, initialement le principal contractant de Maven, ont tellement protesté contre l’écriture d’algorithmes de ciblage que l’entreprise a dû se retirer du programme.

Maven a évolué. Il est maintenant supervisé par la National Geospatial-Intelligence Agency et génère des modèles d’IA sur un cycle rapide d’un mois. Un responsable technique m’a expliqué que les entreprises se font désormais concurrence pour développer les modèles les plus précis de détection d’armes – en ajustant leurs algorithmes pour voir cet hypothétique T-72 sous un bosquet enneigé de sapins, disons, plutôt qu’un champ marécageux de broussailles – et chaque mois, le gouvernement sélectionne une nouvelle matrice numérique.

Pour un Pentagone qui achète habituellement des armes ayant une durée de vie de 30 ans, ce renouvellement mensuel des logiciels de ciblage est une révolution en soi.

Lorsque la Russie a envahi l’Ukraine le 24 février, l’armée américaine avait ces outils en main – et des commandants expérimentés dans leur utilisation. Donahue était devenu chef du XVIII Airborne Corps, qui a transféré son quartier général avancé à Wiesbaden, en Allemagne, juste après l’invasion russe. La 82nd Airborne s’est déplacée vers les quartiers avancés près de Rzeszow, en Pologne, près de la frontière ukrainienne.

Kurilla, quant à lui, est devenu chef du Commandement central et a commencé à utiliser ce théâtre clé comme banc d’essai pour les nouvelles technologies. En octobre, Kurilla a nommé Schuyler Moore, ancien directeur de la science et de la technologie du Defense Innovation Board, au poste de premier « directeur de la technologie » de Centcom.

Pour l’armée et d’autres services, l’impulsion de cette poussée technologique n’est pas seulement l’invasion russe de l’Ukraine, mais le défi imminent de la Chine – le seul véritable concurrent pair de l’Amérique en matière de technologie.

À l’ère de la guerre des algorithmes, lorsque les machines pensantes seront si puissantes, le jugement humain deviendra d’autant plus important. Les sociétés libres ont créé des technologies puissantes qui, entre les mains de bons gouvernements, peuvent permettre des résultats justes, et pas seulement en temps de guerre. Les responsables ukrainiens me disent qu’ils veulent utiliser le logiciel Palantir non seulement pour repousser l’invasion russe, mais aussi pour réparer le réseau électrique ukrainien, identifier la corruption cachée et gérer les vastes tâches de reconstruction.

Mykhailo Fedorov, ministre ukrainien de la transformation numérique et vice-Premier ministre, a expliqué dans des réponses écrites à mes questions comment il prévoyait d’utiliser la technologie non seulement pour battre la Russie, mais pour devenir une superpuissance de haute technologie à l’avenir.

Fedorov affirme que l’Ukraine utilise « massivement » des plates-formes logicielles « pour faire face aux pénuries d’électricité et afin d’assurer la connexion des télécommunications ». Pour réparer les coupures d’électricité et les infrastructures énergétiques endommagées, le pays utilise des terminaux Starlink, des systèmes Tesla Powerwall, des générateurs avancés et des batteries au lithium. Il sauvegarde toutes ses données importantes sur des serveurs cloud.

« Bien sûr, je suis convaincu que les technologies nous permettront également de construire un avenir brillant et sûr », déclare Fedorov. « Seules les technologies les plus récentes pourraient nous donner un tel avantage pour diriger et créer le pays que nous méritons le plus rapidement possible. »

Mais ces technologies peuvent aussi créer des dystopies du XXIe siècle, entre de mauvaises mains. Les algorithmes de ciblage qui permettent à l’Ukraine de repérer et de détruire les envahisseurs russes ne sont pas si différents des algorithmes de reconnaissance faciale qui aident la Chine à réprimer ses citoyens. Nous avons de la chance, en un sens, que ces technologies soient principalement développées en Occident par des entreprises privées plutôt que par des entreprises publiques.

Mais que se passe-t-il si un entrepreneur décide de mener une guerre privée ? Et si des mouvements autoritaires prenaient le contrôle des sociétés démocratiques et utilisaient la technologie pour faire progresser le contrôle plutôt que la liberté ? Et si les progrès de l’IA finissaient par permettre aux algorithmes eux-mêmes de prendre le contrôle, de prendre des décisions pour des raisons qu’ils ne peuvent expliquer, à des vitesses que les humains ne peuvent égaler ? Les sociétés démocratiques doivent être constamment vigilantes face à cette technologie.

L’importance du facteur humain est claire avec des entrepreneurs de la Silicon Valley comme Elon Musk, qui illustre la force – et la faiblesse potentielle – de la nouvelle façon de faire la guerre aux États-Unis. Si Musk décide qu’il n’est pas assez payé pour ses services, ou s’il pense qu’il est temps pour l’Ukraine de faire un compromis, il peut simplement couper la ligne vers ses satellites, comme il l’a brièvement menacé cet automne.

En regardant la guerre en Ukraine, nous pouvons voir que notre culture entrepreneuriale en roue libre donne à l’Occident un gros avantage sur les autocraties dirigées par l’État comme la Chine et la Russie – tant que les entreprises et les PDG partagent les mêmes valeurs démocratiques que les gouvernements occidentaux. C’est pourquoi nous avons besoin d’un débat public plus large sur la puissance des technologies qui sont utilisées noblement en Ukraine mais qui pourraient facilement être détournées à des fins ignobles entre de mauvaises mains.

L’Ukraine, qui a tant souffert dans cette guerre, veut être une techno-superpuissance lorsque le conflit prendra enfin fin. Fedorov, qui supervise la transformation numérique de Kyiv, l’explique ainsi : « Envisageons de faire de l’Ukraine la » vallée de la technologie militaire « du monde, pour développer les solutions de sécurité les plus innovantes, afin que le monde devienne un endroit plus sûr et plus numérique. »

Mais d’abord, les Ukrainiens gelés dans les tranchées sales devront l’emporter.

Le lieutenant-colonel Harris, le commandant du camp dans le nord-est de l’Angleterre, dit qu’il est humble au milieu des recrues là-bas. Au cours de cinq tournées de combat en Afghanistan et une en Irak, cependant, il sait qu’il n’a jamais été confronté à quelque chose d’aussi horrible que beaucoup d’entre eux le verront dans un mois ou deux.

Sur le champ de tir, 10 recrues ukrainiennes tirent des coups de leurs AK-47. Ils en sont au deuxième jour d’exercices de tir réel, avec huit autres à venir. Ce sont des comptables, des cuisiniers et des étudiants ; certains instables avec leurs armes, d’autres nouvellement audacieux. Alors qu’ils visent des cibles à 50 pieds de distance, un sergent britannique commandant le champ de tir leur aboie par l’intermédiaire d’un interprète : « Vous devez tuer l’ennemi avant qu’il ne vous tue ».

Et c’est aussi simple que ça. C’est une guerre de survie pour l’Ukraine. Mais cela devrait réconforter les recrues que quelle que soit leur misère dans les mois à venir, elles disposeront d’un niveau de support technologique au-delà de tout ce que le monde a vu.