Un homme du Michigan mal identifié par la technologie de reconnaissance faciale met en garde le Congrès contre les risques posés par la surveillance policière

Un homme du Michigan qui a été arrêté à tort après avoir été mal identifié par la technologie de reconnaissance faciale a rejoint des témoins experts qui ont mis en garde un sous-comité du Congrès contre les pièges des logiciels de surveillance policière utilisés pour trouver des suspects.

La technologie de reconnaissance faciale utilisée par le service de police de Detroit a fait correspondre par erreur Robert Williams, un habitant de Farmington Hills, à une photo de surveillance d’un voleur à l’étalage présumé. Williams, qui a témoigné mardi devant un panel de la Chambre au sujet de son expérience, a été détenu par la police pendant 30 heures et traduit en justice avant que ses accusations ne soient abandonnées en raison de preuves insuffisantes.

Williams a déclaré que son arrestation devant sa famille avait créé un traumatisme persistant pour ses jeunes filles. Williams a déclaré qu’une fois arrêté, les détectives lui ont montré des photos d’un autre homme qui ne lui ressemblait pas.

« J’ai tenu ce morceau de papier devant mon visage et j’ai dit » J’espère que vous ne pensez pas que tous les Noirs se ressemblent «  », a déclaré Williams.

Les défenseurs des droits civiques affirment que Williams est le premier exemple documenté d’une personne arrêtée à tort sur la base d’une fausse identification par la technologie de reconnaissance faciale. L’affaire soulève des inquiétudes quant à la façon dont des bases de données défectueuses et des taux d’erreur disproportionnés dans l’identification des Noirs et des Bruns peuvent conduire à des arrestations injustifiées et à des atteintes à la vie privée.

L’utilisation de la technologie de surveillance pour identifier les suspects a suscité des critiques bipartites de la part des membres du sous-comité américain sur le crime, le terrorisme et la sécurité intérieure. Les représentants ont exprimé leurs inquiétudes quant à l’expansion d’un «État de surveillance» et ont établi des comparaisons avec la façon dont la technologie a été utilisée à mauvais escient par le gouvernement chinois pour surveiller ses citoyens.

« Il existe de nombreuses inconnues, mais nous pouvons être certains d’une chose : la plupart, sinon tous les systèmes de reconnaissance faciale sont moins précis pour les personnes de couleur et les femmes », a déclaré la représentante américaine Sheila Jackson Lee, D-Texas. « Pour la plupart, nous pouvons être sûrs que plus votre teint est foncé, plus le taux d’erreur est élevé. »

Jackson a déclaré que peu de réflexion avait été accordée aux conséquences de l’expansion de l’utilisation de la technologie de surveillance à travers le pays. Les membres du Congrès ont déclaré que la technologie peut être un outil précieux pour résoudre les crimes, mais présente également des problèmes qui nécessitent une étude plus approfondie et une réglementation gouvernementale.

Greta Goodwin, directrice de la sécurité intérieure et de la justice au Government Accountability Office, a souligné un rapport récent qui a révélé que 20 agences fédérales utilisaient la technologie de reconnaissance faciale. Treize de ces agences ne savent pas quels systèmes leurs employés utilisent ni à quelle fréquence ils les utilisent, a-t-elle déclaré.

Un logiciel de reconnaissance faciale a été utilisé pour surveiller les manifestants lors des manifestations contre la brutalité policière et les élections de 2020 à Washington, DC, selon le sous-comité. La technologie de surveillance a également été utilisée par une ville de Géorgie pour surveiller la conformité aux réglementations COVID-19.

Bertram Lee Jr., avocat de la Leadership Conference on Civil and Human Rights, a déclaré que 133 millions d’adultes américains sont inclus dans les réseaux de reconnaissance faciale. Les garanties pour garantir que la technologie est utilisée de manière responsable sont en grande partie inexistantes, a-t-il déclaré.

« La technologie de reconnaissance faciale étend dangereusement la portée et le pouvoir des forces de l’ordre lorsqu’elle est combinée avec les réseaux existants de caméras de surveillance qui parsèment nos paysages urbains et suburbains », a déclaré Lee. « Les algorithmes de reconnaissance faciale pourraient permettre aux gouvernements de suivre les mouvements publics, les habitudes et les associations de toutes les personnes à tout moment, simplement en appuyant sur un bouton. »

Le débat sur les logiciels de reconnaissance faciale dans le Michigan s’est largement centré sur le projet Green Light de Detroit, un programme de surveillance qui a débuté en 2016. Les groupes de défense des droits civiques soutiennent que le logiciel est moins précis lorsqu’il s’agit d’identifier les personnes à la peau plus foncée, suscitant des inquiétudes quant aux arrestations erronées ville à majorité noire.

La représentante américaine Rashida Tlaib, D-Detroit, a fait valoir que le logiciel de reconnaissance faciale est une « technologie raciste » après que le conseil municipal de Detroit a voté 6 contre 3 pour renouveler son contrat de technologie de reconnaissance faciale l’année dernière.

Un rapport du service de police de Detroit sur l’utilisation de la technologie en 2021 a révélé qu’un logiciel de reconnaissance faciale avait créé 62 pistes dans des enquêtes criminelles. Toutes les pistes sauf une ont identifié des Noirs, mais seulement 37 ont été considérées comme un « correspondance possible ».

Seulement 27 des pistes ont été générées à partir d’images créées par les caméras Project Green Light, et 11 autres provenant d’autres caméras de sécurité. Vingt-quatre pistes ont été générées à partir d’images de médias sociaux.

Williams poursuit le département de police de Detroit devant un tribunal fédéral. Le procès fait valoir que ses droits au quatrième amendement ont été violés et que son arrestation injustifiée constitue une violation de la loi sur les droits civils d’Elliott-Larsen du Michigan. Il demande des dommages et des changements de politique pour arrêter l’utilisation de la technologie de reconnaissance faciale par la police de Detroit.

« Et si le crime était un meurtre qualifié et qu’ils venaient juste chez moi et m’arrêtaient ? » dit Williams. « Je ne sais pas si j’aurais obtenu une caution pour sortir et être libre … Je serais toujours enfermé pour quelque chose que je n’ai pas fait. »

EN SAVOIR PLUS SUR MLIVE :

Un homme du Michigan poursuit la police pour arrestation injustifiée basée sur la technologie de reconnaissance faciale

Ann Arbor envisage d’interdire l’utilisation par la police de la technologie de reconnaissance faciale

Interdire l’utilisation de la technologie de reconnaissance faciale parmi les réformes policières proposées par les législateurs du Michigan

Un travail « de mauvaise qualité » avec la technologie faciale a conduit à l’arrestation erronée d’un homme noir