Implications géopolitiques de l’IA et de l’adoption de la surveillance numérique
Résumé
La sophistication et la diffusion croissantes de l’intelligence artificielle (IA) et des technologies de surveillance numérique ont suscité des inquiétudes concernant la vie privée et les droits de l’homme. La Chine est incontestablement l’un des leaders dans le développement de ces technologies à la fois pour une utilisation nationale et internationale. Cependant, les autres pays actifs dans cet espace sont les États-Unis, Israël, la Russie, plusieurs pays européens, le Japon et la Corée du Sud. Les entreprises américaines jouent un rôle particulièrement important dans la fourniture du matériel sous-jacent aux technologies de surveillance.
À leur tour, ces technologies sont utilisées dans une gamme de contextes. Certains de ses cas d’utilisation les plus graves incluent l’aide à l’espionnage des dissidents politiques et la répression des populations musulmanes ouïghoures et turques à travers la Chine. Cependant, des inquiétudes surgissent même dans ses utilisations les plus « banales », qui incluent la vérification individuelle dans les banques et les gymnases. La meilleure qualité des données collectées peut aider les entreprises à améliorer la précision de leur technologie de reconnaissance faciale. Au fil du temps, ces technologies de plus en plus efficaces peuvent être utilisées ailleurs à des fins autoritaires.
Les États-Unis et les démocraties partenaires ont mis en place des sanctions, des contrôles des exportations et des interdictions d’investissement pour freiner la propagation incontrôlée de la technologie de surveillance, mais la nature opaque des chaînes d’approvisionnement ne permet pas de savoir dans quelle mesure ces efforts fonctionnent. Un vide majeur subsiste au niveau des normes internationales dans des institutions telles que l’Union internationale des télécommunications (UIT) des Nations Unies, où les entreprises chinoises ont été les seules à proposer des normes de reconnaissance faciale dont l’adoption est accélérée dans de vastes régions du monde. .
Pour continuer à relever ces défis politiques, cette note propose cinq recommandations pour les gouvernements démocratiques et trois pour la société civile. En bref, ces recommandations sont :
- Les États-Unis et leurs alliés devraient démontrer qu’ils peuvent produire un modèle alternatif viable en prouvant qu’ils peuvent utiliser la reconnaissance faciale, la police prédictive et d’autres outils de surveillance de l’IA de manière responsable chez eux.
- Le Département d’État devrait travailler avec des experts techniques, tels que ceux qui se réunissent au Partenariat mondial sur l’IA, pour proposer d’autres normes de reconnaissance faciale à l’UIT.
- Les États-Unis et les pays aux vues similaires devraient développer conjointement des systèmes pour améliorer la réglementation des transferts de données et réduire les risques.
- Les États-Unis et les démocraties partenaires devraient subventionner les entreprises pour les aider à créer des normes à proposer à des organismes tels que l’UIT.
- La National Science Foundation et la Defense Advanced Research Projects Agency devraient financer des recherches sur la vision par ordinateur préservant la confidentialité, où la vision par ordinateur dérive des informations à partir d’images ou de vidéos.
- Les organisations de la société civile (OSC) devraient s’engager dans des efforts de sensibilisation auprès des communautés locales et des dirigeants communautaires pour renforcer le discours public sur les avantages et les inconvénients de l’utilisation de l’IA dans le maintien de l’ordre et la surveillance.
- Les OSC devraient s’engager dans ou soutenir la recherche sur les questions liées aux violations des droits en utilisant l’IA et les technologies de surveillance numérique et l’exportation de ces technologies.
- Les OSC devraient participer activement à l’établissement de normes technologiques internationales.