AG réfléchit à une politique à l’échelle de l’État sur la technologie de reconnaissance faciale

Les partisans de la technologie de reconnaissance faciale affirment qu’elle peut aider les forces de l’ordre à identifier les criminels insaisissables et à retrouver les personnes disparues. Les critiques rétorquent qu’il s’agit d’une atteinte à la vie privée qui contribue au maintien de l’ordre raciste.

Le bureau du procureur général du New Jersey veut maintenant que le public intervienne. L’agence a ouvert un portail en ligne pour recueillir les commentaires du public, selon les responsables, cela les aidera à façonner la politique à l’échelle de l’État sur l’utilisation de la technologie dans l’application de la loi. Les commentaires publics seront acceptés jusqu’au 11 mars.

Il n’y a plus de politique, bien que l’ordonnance de janvier 2020 de l’ancien procureur général Gurbir Grewal interdisant aux services de police du New Jersey d’utiliser l’application de reconnaissance faciale Clearview AI reste en place, a déclaré le porte-parole Peter Aseltine. Grewal avait exprimé des inquiétudes générales concernant les garanties du logiciel.

Le bureau a déjà identifié trois principes directeurs pour la politique : s’assurer que les entreprises technologiques ne collectent pas de manière inappropriée des images personnelles en violation des règles des médias sociaux ou d’autres sites ; permettre aux forces de l’ordre de l’utiliser uniquement pour générer des pistes lorsqu’ils n’ont pas de suspects, plutôt que comme seule base d’arrestation ou de poursuite ; et permettre aux agences de l’utiliser uniquement pour des enquêtes spécifiques, au lieu d’une surveillance continue par « coup de filet ».

Alors que les défenseurs des droits civiques et les réformateurs de la police applaudissent les responsables pour avoir sollicité la contribution de la communauté, ils disent que l’État devrait rejeter complètement la technologie, comme l’ont fait des endroits comme le Vermont, le Maine, San Francisco, Portland et Boston.

« Cela a l’étoffe de trucs vraiment Big Brother, des gens surveillés sans leur consentement », a déclaré l’activiste Zayid Muhammad, un organisateur communautaire de Newark Communities for Accountable Policing.

Le groupe de Muhammad et Black Lives Matter de Paterson ont appelé les responsables de l’État à se concentrer plutôt sur la réforme de la police.

La technologie utilise la biométrie pour cartographier les traits du visage des personnes prises en photo, puis compare les résultats à une base de données de visages connus pour rechercher une correspondance. Dans la vie de tous les jours, il est utilisé pour aider les gens à faire des choses comme déverrouiller leur téléphone et taguer des amis sur les réseaux sociaux.

Mais dans la police, cela a été controversé.

« Ce n’est tout simplement pas une technologie très fiable dans les contextes d’application de la loi », a déclaré Dillon Reisman, juriste à l’American Civil Liberties Union du New Jersey. «Ils sont souvent intrinsèquement biaisés contre les personnes de couleur à la peau plus foncée, en particulier les femmes. Ils ne fonctionnent pas bien dans un mauvais éclairage et sur des images granuleuses de type surveillance de sécurité.

Des études menées par le MIT et l’Université de Stanford en 2018 ont révélé que certains algorithmes d’analyse faciale identifiaient à tort les femmes noires près de 35% du temps – mais la plupart du temps, ils avaient raison pour les hommes blancs. Une étude gouvernementale a confirmé ces conclusions en 2019, concluant que la technologie fonctionne mal lors de l’examen des visages des femmes, des personnes de couleur, des personnes âgées et des enfants.

De telles erreurs d’identification ont entraîné des poursuites, dont celle qu’un homme de Paterson a déposée en 2020 après que la police de Woodbridge l’a arrêté en 2019, s’appuyant sur la technologie de reconnaissance faciale pour le lier à tort à une agression de véhicule. L’homme, Nijeer Parks, a passé 10 jours en prison même s’il a dit à la police qu’il n’avait pas de permis de conduire ni de voiture, qu’il n’était jamais allé à Woodbridge et qu’il avait un alibi au moment de l’incident. Les accusations ont finalement été rejetées.

Jennifer Sellitti est avocate au bureau du défenseur public du New Jersey.

« Les gens supposent qu’il n’y a aucun moyen que les préjugés puissent s’infiltrer dans la technologie. Pourtant, tout, de la façon dont les algorithmes sont programmés au groupe de personnes dont les photos entrent dans le système, a des composants subjectifs qui causent des problèmes », a déclaré Sellitti.

« Prenez la surreprésentation des personnes de couleur dans les photographies de justice pénale », a-t-elle ajouté. « Les Noirs sont arrêtés à des taux plus élevés, ils sont plus susceptibles d’être inclus dans ces photos, et il y a plus de chances qu’il y ait plusieurs photos d’eux que, disons, moi. »

La technologie a également tendance à être déployée le plus souvent dans les communautés de couleur, contribuant à une police biaisée, a ajouté Reisman.

Les officiers l’ont également utilisé pour espionner et arrêter des manifestants, a déclaré Reisman.

« Cela représente un effet dissuasif majeur sur les droits des gens au premier amendement », a-t-il déclaré. « Donner à la police la capacité d’identifier n’importe qui sur simple pression d’un bouton est une menace sérieuse pour la capacité des gens à vivre librement en public. »

Ces dernières années, la police du New Jersey et à l’échelle nationale s’est engagée à reconstruire les relations avec les communautés où la sur-police et le racisme systémique ont détruit la confiance du public dans les forces de l’ordre. L’utilisation de la technologie de reconnaissance faciale n’est pas le moyen de le faire, a déclaré Muhammad.

« Cela ne fait que mettre en colère beaucoup de gens qui sont juste vraiment, vraiment fatigués d’être traumatisés par les abus de la police et cette réticence totale à faire quoi que ce soit à ce sujet », a-t-il déclaré.

Reisman a convenu: «Des outils de surveillance comme celui-ci avertissent constamment le public qu’ils font l’objet de soupçons. Cela entraîne la rupture de la confiance.