Le nouveau TechBrief d’ACM met en lumière les problèmes de confidentialité et d’éthique liés à la technologie de reconnaissance faciale

Le Technology Policy Council (ACM TPC) de l’Association for Computing Machinery a publié aujourd’hui « ACM TechBrief : reconnaissance faciale », un aperçu concis d’une application de plus en plus utilisée qui s’appuie fortement sur l’intelligence artificielle. Le dossier comprend une introduction à la reconnaissance faciale, des statistiques clés sur sa croissance et son utilisation, ainsi que des implications politiques importantes.

Cette dernière édition souligne que l’utilisation de la reconnaissance faciale basée sur l’IA « augmente malgré ses limites fondamentales, créant de profondes préoccupations éthiques et de confidentialité ». Le tableau « By the Numbers » du TechBrief met en relief des statistiques clés sur sa croissance et son utilisation. Par exemple, bien plus de 80 millions d’Américains (près de 25 % de la population du pays) vivent désormais dans des juridictions qui ont interdit ou fortement restreint l’utilisation des systèmes de reconnaissance faciale, en grande partie pour des raisons de confidentialité et de libertés civiles.

Une préoccupation clé soulignée par l’ACM TPC est que les préjugés (y compris les préjugés raciaux et sexistes) sont à la fois omniprésents et profonds dans les systèmes de reconnaissance faciale. Le TechBrief cite plusieurs études de recherche démontrant que les erreurs touchent souvent de manière disproportionnée les populations minoritaires, en particulier les personnes de couleur.

« C’est un moment urgent », explique le Dr Joshua A. Kroll, professeur adjoint à la Naval Postgraduate School et auteur principal de l’ACM TechBrief. « Les articles sur la reconnaissance faciale ont fait la une des journaux ces derniers temps et certaines des plus grandes entreprises mondiales repensent fondamentalement l’opportunité d’utiliser ou non la technologie. Mais la compréhension du public de la technologie, ainsi que la raison pour laquelle elle est controversée, est vague. ACM Technology Policy Council a développé cette vue d’ensemble pour familiariser les gens avec les bases de la reconnaissance faciale, ainsi que les raisons pour lesquelles de nombreux professionnels de l’informatique s’inquiètent de ses impacts négatifs potentiels. par ces technologies. »

Une autre préoccupation clé soulevée dans le TechBrief est la question de la confidentialité. L’ACM TPC souligne que partout où il y a une caméra, les individus peuvent potentiellement être identifiés et suivis. Il peut donc être presque impossible d’éviter cela sans éviter les espaces publics. De plus, de nombreux systèmes commerciaux sont développés à l’aide d’images de reconnaissance faciale recueillies à l’insu ou sans le consentement des personnes représentées. Dans un exemple récent, l’État du Texas a annoncé qu’il poursuivait Meta pour avoir abusé des données de reconnaissance faciale.

« Ce nouveau TechBrief complète une déclaration de 2020 publiée par l’US Technology Policy Committee (ACM USTPC) de l’Association for Computing Machinery, qui demandait une suspension immédiate de l’utilisation privée et gouvernementale des technologies de reconnaissance faciale », a ajouté James Hendler, professeur au Rensselaer Polytechnic Institute. et président de l’ACM TPC. « En théorie, le déploiement des technologies de reconnaissance faciale pourrait offrir des avantages sociétaux. Mais, dans la pratique, l’utilisation non réglementée de la reconnaissance faciale peut nuire aux droits humains et juridiques fondamentaux des individus dans des domaines tels que la vie privée, l’emploi, la justice et la liberté personnelle. . Nous espérons qu’en fournissant aux gens un aperçu accessible de la technologie de reconnaissance faciale, ils comprendront pourquoi elle doit être soigneusement réglementée avant qu’elle ne soit encore plus largement adoptée. »

Ce TechBrief est le deuxième d’une série de courts bulletins techniques d’ACM TPC qui présentent des perspectives scientifiquement fondées sur l’impact de développements ou d’applications technologiques spécifiques. Conçus pour compléter les activités d’ACM dans le domaine politique, les TechBriefs visent à informer les décideurs politiques et autres sur la nature et les implications des technologies de l’information. Le premier TechBrief ACM de la série portait sur le changement climatique. Les sujets à l’étude pour les prochains numéros comprennent la sécurité des élections, les villes intelligentes et le cryptage.

Fourni par Association for Computing Machinery