La technologie de reconnaissance faciale à l’aéroport est raciste et ne fonctionne même pas

Selon un rapport annuel publié par le US Customs and Border Protection (CBP), plus de 23 millions de personnes ont été «traitées» à l’aide de la technologie de reconnaissance faciale aux points d’entrée, de sortie et de précontrôle (par exemple, les aéroports, les ports maritimes, les passages pour piétons, etc.) 2020 – en hausse de 21% par rapport à 2019. Malgré l’augmentation, cependant, le système n’a attrapé aucun imposteur voyageant dans les aéroports et moins de 100 imposteurs piétons, a rapporté Dave Gershgorn de OneZero.

À première vue, cela semble être une bonne chose: les gens n’essaient pas de se faufiler illégalement dans les aéroports en se faisant passer pour d’autres personnes, et maintenant nous avons la technologie pour A) le prouver et B) dissuader les futurs auteurs. Mais en réalité, des études ont montré que la reconnaissance faciale n’est pas aussi efficace si l’on considère une poignée de données démographiques en particulier – à savoir les femmes et les personnes à la peau plus foncée – ce qui soulève une question fondamentale sur son utilisation: comment les autorités peuvent-elles justifier la mise en œuvre d’une technologie potentiellement biaisée? si cela ne les aide même pas à identifier des criminels?

En 2019, Le New York Times ont rapporté que, selon une étude de l’Institut national des normes et de la technologie, les systèmes de reconnaissance faciale identifiaient à tort les visages afro-américains et asiatiques 10 à 100 fois plus fréquemment que les visages caucasiens. Il a également échoué à identifier les femmes plus souvent que les hommes et les adultes plus âgés plus fréquemment que les adultes plus jeunes.

«La mise en œuvre du programme a été accueillie avec scepticisme de la part du Government Accountability Office (GAO)», a écrit Gershgorn. «À la fin de 2020, l’organisation de surveillance a critiqué le CBP pour des audits de précision médiocres, une mauvaise signalisation informant le public que la technologie est utilisée et peu d’informations offertes au public sur le fonctionnement de ses systèmes.

Au contraire, le CBP a soutenu que le système n’a montré «pratiquement aucune différence de performance mesurable dans les résultats basés sur des facteurs démographiques», mais n’a jusqu’à présent pas fourni de preuves suffisantes pour étayer ces affirmations, selon Gershgorn, qui a également souligné que le CBP a subi une violation de données en 2019, lorsqu’un entrepreneur voyou a téléchargé près de 200000 images de reconnaissance faciale et en a divulgué certaines dans le domaine public.

Au cours des deux dernières années, la reconnaissance faciale n’a permis de capturer que sept imposteurs traversant les aéroports américains et 285 via des passages terrestres, mais il est difficile de ne pas remettre en question son application et son efficacité ultérieure. Le CBP est catégorique sur le fait que ce sera un élément essentiel de la restauration de l’industrie du voyage à sa gloire d’avant la pandémie, bien que l’on ne sache pas immédiatement comment ou pourquoi cela serait vrai.