Des scientifiques créent un jeu en ligne pour montrer les risques de reconnaissance des émotions de l’IA

Les scientifiques invitent les gens à faire des grimaces sur leur webcam et leur smartphone pour voir en action une technologie controversée appelée reconnaissance des émotions par l’intelligence artificielle.

Des chercheurs de l’Université de Cambridge et de l’UCL ont créé un site Web appelé Emojify pour aider les gens à comprendre comment les ordinateurs peuvent être utilisés pour scanner les expressions faciales et détecter les émotions.

Le Dr Alexa Hagerty, chef de projet et chercheur au Leverhulme Center for the Future of Intelligence de Cambridge, a déclaré que la technologie, qui est déjà utilisée dans certaines parties du monde, est «puissante» mais «imparfaite».

Les visiteurs du site Web peuvent jouer à un jeu, en tirant des visages sur la caméra de leur appareil pour essayer de faire reconnaître au système de reconnaissance des émotions six émotions: le bonheur, la tristesse, la peur, la surprise, le dégoût et la colère.

Ils peuvent également répondre à une série de questions facultatives pour faciliter la recherche, notamment s’ils ont déjà fait l’expérience de la technologie et s’ils la jugent utile ou préoccupante.

La technologie de reconnaissance des émotions de l’IA est utilisée dans divers secteurs en Chine, notamment pour les interrogatoires de la police et pour surveiller le comportement dans les écoles.

D’autres utilisations potentielles incluent le contrôle aux frontières, l’évaluation des candidats lors des entretiens d’embauche et pour les entreprises de recueillir des informations sur les clients.

Les chercheurs disent espérer entamer des discussions sur la technologie et ses impacts sociaux.

Le Dr Hagerty a déclaré: «Beaucoup de gens sont surpris d’apprendre que la technologie de reconnaissance des émotions existe et est déjà utilisée.

«Notre projet donne aux gens une chance de faire l’expérience de ces systèmes par eux-mêmes et d’avoir une meilleure idée de leur puissance, mais aussi de leurs défauts.»

Le Dr Igor Rubinov, de Dovetail Labs, un cabinet de conseil spécialisé en éthique technologique, qui a dirigé la conception du site Web de recherche interactif, a déclaré: «Nous voulons que les gens interagissent avec un système de reconnaissance des émotions et voient comment l’IA scanne leurs visages et ce qu’il pourrait obtenir. faux. »

Juweek Adolphe, concepteur en chef, a déclaré: «Il se veut amusant mais aussi de vous faire réfléchir aux enjeux de cette technologie.»

Le Dr Hagerty a déclaré que la technologie avait «un potentiel inquiétant de discrimination et de surveillance».

Elle a poursuivi: «La science derrière la reconnaissance des émotions est fragile.

«Cela suppose que nos expressions faciales reflètent parfaitement nos sentiments intérieurs.

«Si vous avez déjà simulé un sourire, vous savez que ce n’est pas toujours le cas.»

Le Dr Alexandra Albert, du groupe de recherche Extreme Citizen Science (ExCiteS) de l’UCL, a déclaré qu’une «approche plus démocratique» est nécessaire pour déterminer comment la technologie est utilisée.

«Il n’y a pas eu de véritable apport public ou de délibération sur ces technologies», a-t-elle déclaré.

«Ils scannent votre visage, mais ce sont les entreprises technologiques qui décident de leur utilisation.»

Les chercheurs ont déclaré que leur site Web ne collectait ni ne sauvegardait d’images ou de données du système d’émotion.

Les réponses facultatives aux questions seront utilisées dans le cadre d’un article académique sur les approches de la science citoyenne pour mieux comprendre les implications sociétales de la reconnaissance des émotions.

Pour essayer la technologie de reconnaissance des émotions par intelligence artificielle, voir https://emojify.info/

Pennsylvanie