Intelligence artificielle – Les agences d’espionnage ont de grands espoirs pour l’IA | Technologie scientifique

WPOULE vient d’utiliser l’intelligence artificielle (IA), les agences de renseignement y travaillent depuis plus longtemps que la plupart. Dans la guerre froide, l’Agence américaine de sécurité nationale (NSA) et le siège des communications du gouvernement britannique (GCHQ) exploré tôt IA pour aider à transcrire et à traduire les énormes volumes d’interceptions téléphoniques soviétiques qu’ils ont commencé à aspirer dans les années 1960 et 1970.

Pourtant, la technologie était immature. Un ancien officier du renseignement européen a déclaré que son service n’avait pas utilisé la transcription ou la traduction automatique en Afghanistan dans les années 2000, se reposant plutôt sur des locuteurs natifs. Maintenant, les fantômes espèrent faire mieux. Les tendances qui ont fait IA attrayants pour les entreprises ces dernières années – plus de données, de meilleurs algorithmes et plus de puissance de traitement pour faire tout bourdonner – donnent également aux agences d’espionnage de grandes idées.

Le 24 février GCHQ a publié un article expliquant comment IA pourrait changer son travail. La «vérification des faits assistée par machine» pourrait aider à repérer les images falsifiées, à vérifier la désinformation par rapport à des sources fiables et à identifier les robots des réseaux sociaux qui la diffusent. IA pourraient bloquer les cyberattaques en «analysant les schémas d’activité sur les réseaux et les appareils», et lutter contre le crime organisé en repérant les chaînes suspectes de transactions financières.

D’autres organisations, moins dotées de ressources, ont déjà montré ce qui est possible. The Nuclear Threat Initiative, un Américain ONG, a récemment montré que l’application de l’apprentissage automatique aux données commerciales accessibles au public pouvait repérer des entreprises et des organisations jusque-là inconnues soupçonnées d’être impliquées dans le commerce illicite de matières pour armes nucléaires. Mais les agences d’espionnage ne sont pas limitées aux données accessibles au public.

Certains espèrent que, aidés par leur capacité à fouiner sur des informations privées, des applications aussi modestes pourraient ouvrir la voie à une IA-le mastodonte en plein essor. « IA va révolutionner la pratique du renseignement », a déclaré un rapport publié le 1er mars par la Commission de sécurité nationale américaine sur l’intelligence artificielle, un groupe d’étude de grande puissance coprésidé par Eric Schmidt, ancien président exécutif d’Alphabet, la société mère de Google, et Bob Work, ancien secrétaire adjoint à la défense.

Le rapport ne manque pas d’ambition. Il dit que d’ici 2030, environ 17 agences d’espionnage américaines auraient dû construire une «architecture fédérée de moteurs analytiques à apprentissage continu» capable de tout analyser, de l’intelligence humaine à l’imagerie satellitaire, afin de prévoir les menaces imminentes. La commission pointe avec approbation la réponse du Pentagone au covid-19, qui a intégré des dizaines d’ensembles de données pour identifier les hotspots covid-19 et gérer la demande d’approvisionnement.

Pourtant, ce qui est possible en santé publique n’est pas toujours aussi simple en matière de sécurité nationale. Les agences de renseignement occidentales doivent lutter contre les lois régissant la manière dont les données privées peuvent être recueillies et utilisées. Dans son article, GCHQ dit qu’il sera conscient des biais systémiques, tels que la question de savoir si le logiciel de reconnaissance vocale est plus efficace avec certains groupes que d’autres, et transparent sur les marges d’erreur et l’incertitude de ses algorithmes. Les espions américains disent, plus vaguement, qu’ils respecteront «la dignité humaine, les droits et les libertés». Ces différences devront peut-être être corrigées. Une suggestion faite par un récent groupe de travail d’anciens fantômes américains dans un rapport publié par le Center for Strategic and International Studies (SCRS) à Washington, l’alliance du renseignement «Five Eyes» – Amérique, Australie, Grande-Bretagne, Canada et Nouvelle-Zélande – crée un serveur cloud partagé sur lequel stocker les données.

Dans tous les cas, les contraintes auxquelles IA dans l’intelligence sont autant pratiques qu’éthiques. L’apprentissage automatique est bon pour repérer les modèles – tels que les modèles distinctifs d’utilisation du téléphone mobile – mais il est médiocre pour prédire le comportement individuel. Cela est particulièrement vrai lorsque les données sont rares, comme dans la lutte contre le terrorisme. Les modèles de police prédictive peuvent analyser les données de milliers de cambriolages chaque année. Les attaques terroristes sont beaucoup plus rares et donc plus difficiles à apprendre.

Cette rareté crée un autre problème, familier aux médecins qui réfléchissent aux programmes de dépistage de masse pour les maladies rares. Tout modèle prédictif générera de faux positifs, dans lesquels des personnes innocentes sont signalées pour enquête. Une conception soignée peut faire baisser le taux de faux positifs. Mais parce que le «taux de base» est encore plus bas – il y a, heureusement, très peu de terroristes – même un système bien conçu risque d’envoyer un grand nombre d’espions à des poursuites à la folie.

Et les données qui existent peuvent ne pas convenir. Les données des caméras de drones, des satellites de reconnaissance et des appels téléphoniques interceptés, par exemple, ne sont actuellement pas formatées ou étiquetées de manière utile pour l’apprentissage automatique. La résolution de ce problème est «une tâche fastidieuse, longue et toujours essentiellement humaine, exacerbée par des normes d’étiquetage différentes entre les agences et même au sein de celles-ci», note le SCRS rapport. Ce n’est peut-être pas tout à fait le genre de travail auquel les espions potentiels se sont inscrits. ■

Cet article a été publié dans la section Science et technologie de l’édition imprimée sous le titre «Intelligence artificielle»