INTERVIEW : Le rôle de l'ONU dans l'établissement de règles internationales pour l'utilisation de l'IA |

Carme Artigas est reconnue comme l’une des plus grandes autorités en matière d’IA. Après plusieurs années dans le secteur privé, elle a été nommée la toute première secrétaire d'État espagnole à la numérisation et à l'IA en 2020 et, au cours de son mandat, a présenté la stratégie nationale espagnole pour l'IA, le plan national pour les compétences numériques et la charte des droits numériques.

En octobre 2023, en tant que coprésidente du Conseil consultatif de l'ONU sur l'IA, Mme Artigas a dirigé les 38 membres dans la production d'un rapport intérimaire, publié en décembre, qui concluait que l'IA « a besoin de gouvernance, pas seulement pour relever les défis ». et les risques, mais pour garantir que nous exploitons son potentiel de manière à ne laisser personne de côté.

Le dernier jour de son mandat, le 28 décembre, Mme Artigas a réfléchi au rôle de l'ONU dans la création de réglementations convenues à l'échelle mondiale sur l'utilisation de la technologie, et aux raisons pour lesquelles cela pourrait annoncer un avenir meilleur pour tous.

Carme Artigas : Je pense que ce qui rend cette vague de développement de l’IA différente, c’est que la technologie peut continuer à évoluer sans intervention humaine et qu’elle affecte non seulement l’économie, mais aussi la société et le rôle de l’être humain dans ce monde numérique.

Cela affecte notre façon de voir la réalité, ce qui peut générer des problèmes de confiance. Et si nous ne parvenions pas à faire la différence entre quelque chose écrit par une machine ou par un humain ? Nous serons dans un monde très confus.

Je pense que la publication du GPT-4 a été un moment « Eurêka », où nous avons réalisé l’énorme impact que cela pourrait avoir et pourquoi nous avons besoin d’une sorte de réglementation mondiale.

Il était également nécessaire que ce sujet soit discuté au niveau de l’ONU, car jusqu’à présent, toutes les discussions n’ont eu lieu qu’au sein d’un petit nombre d’entreprises et de gouvernements, tous situés dans le Nord.

Actualités de l'ONU : Le Le Conseil consultatif comprend un groupe diversifié de membres issus du Sud et du Nord, des secteurs privé et public et du monde universitaire. Comment avez-vous réussi à parvenir à un accord sur les recommandations du rapport intérimaire ?

Carme Artigas : C'était certainement un défi, mais parce que d'autres initiatives avaient eu lieu – comme le plan du G7 à Hiroshima, le sommet sur la sécurité de l'IA au Royaume-Uni et la réglementation autour des deepfakes en Corée du Sud – nous avons convenu que nous devions parvenir à un consensus mondial sur la manière dont nous pouvons utiliser l’intelligence artificielle est meilleure que l’intelligence humaine, qui n’a jusqu’à présent réussi à atteindre que 16 pour cent des objectifs de développement durable.

L'ONU est la seule entité mondiale faisant autorité au niveau mondial qui a la capacité de rassembler toutes ces visions diverses, et les membres étaient d'accord sur les avantages, l'opportunité d'éviter une fracture mondiale en matière d'IA, de garantir qu'elle profite à tous et qu'elle soit gouvernés de manière à ne pas entraver l’innovation ni mettre en danger les droits humains fondamentaux.

Actualités de l'ONU : En 2023, certains des plus éminents experts en IA ont appelé à une pause, voire à un arrêt de la recherche sur l’IA jusqu’à ce que la gouvernance soit plus largement acceptée. Avaient-ils raison ?

Carme Artigas : Je pense qu'il est un peu naïf de demander une pause dans l'innovation. Au contraire, nous devons accélérer l’innovation et la recherche afin que des solutions puissent être trouvées.

Je dis toujours que le risque existentiel ne vient pas d’un Armageddon créé par des robots qui nous tue tous. Le véritable risque existentiel est que nous devenions tous fous, parce que nous ne pouvons pas croire ce que nous voyons, entendons ou lisons.

Nous devons également être très responsables quant à la durabilité de ces technologies, qui jouent aujourd’hui un rôle très important dans la géopolitique, en termes de qui a accès aux matières premières et à la puissance de transformation. Ainsi, l’un des sujets sur lesquels nous essayons de nous concentrer ici est de savoir comment permettre l’accessibilité universelle des données, de la puissance informatique et des compétences numériques afin de permettre un développement plus uniforme et plus distribué de l’IA pour de bon.

Actualités de l'ONU : Partagez quelques-unes des façons dont l’IA améliorera le monde.

Carme Artigas : Je pense que l’IA est un outil très important pour la démocratie, car elle peut rendre accessible le savoir de toute l’humanité et rendre l’éducation personnalisée accessible à tous.

Cela aura un impact considérable sur les soins de santé, en prévenant les maladies, en améliorant les diagnostics et en réduisant les coûts.

Et cela sera extrêmement utile pour atteindre les objectifs de développement durable, réduire la pauvreté, lutter contre le changement climatique et d’autres défis mondiaux que l’humanité n’a pas réussi à résoudre.

Actualités de l'ONU : Melissa Fleming, responsable de la communication à l'ONU, a récemment déclaré lors d'une réunion des membres du Conseil de sécurité que l'avènement de l'IA générative signifie que l'environnement en ligne est sur le point de se détériorer encore, sapant la confiance du public dans les sources d'information et d'information.

Est-ce une source de préoccupation pour vous, ou le fait qu'il y ait davantage de discussions sur cette question est-il le signe que nous nous préparons à aborder ce sujet ?

Carme Artigas : Le fait que nous ayons porté le débat au niveau mondial me donne beaucoup d’espoir.

Les médias d’information ont un rôle très important à jouer et ils doivent retrouver leur rôle de « quatrième pouvoir » car nous avons plus que jamais besoin d’eux. Il existe de nombreuses façons de vérifier les informations, et c'est ce que devraient faire les organisations médiatiques sérieuses. C'est bien d'avoir des opinions différentes, mais on ne peut pas vendre de fausses nouvelles, car elles génèrent simplement de l'incertitude et un manque de confiance.

Il y a un ou deux ans, alors que seuls quelques-uns d’entre nous s’en inquiétaient, j’étais inquiet. Mais grâce au GPT-4, tout le monde a compris à quel point l’IA est omniprésente et que nous devons imposer certaines limites à son utilisation.