LBPD utilise déjà la technologie de reconnaissance faciale, mais un combat se prépare pour savoir si cela devrait être le cas • Long Beach Post News

Vendredi, lors d’une réunion du comité de la sécurité publique du conseil, le chef adjoint du LBPD, Wally Hebeish, a défendu l’utilisation limitée du logiciel de reconnaissance faciale par son département, le qualifiant d’outil précieux qui n’est utilisé que pour générer des pistes dans les enquêtes criminelles. Même alors, a-t-il dit, cela doit être étayé par d’autres preuves pour que les détectives prennent des mesures.

« Nous n’utilisons pas cela pour la surveillance de masse de la communauté », a déclaré Hebeish.

Les trois membres du conseil municipal présents aux réunions de vendredi – Suely Saro, Roberto Uranga et Suzie Price – n’ont pris aucune position directe sur la question de savoir s’ils pensaient que la technologie était appropriée, mais certains responsables municipaux ont adopté une position plus ferme.

Depuis le début de l’année dernière, un sous-comité de deux membres du comité de la technologie et de l’innovation de la ville étudie la technologie de reconnaissance faciale et a publié cette semaine un rapport recommandant à Long Beach d’interdire son utilisation pour le moment et d’établir un moyen de contrôler les nouvelles technologies. avant de les adopter.

« Sur la base des recherches menées à ce jour, le sous-comité constate que les technologies actuelles de reconnaissance faciale ne sont pas seulement insuffisamment précises, mais présentent un risque substantiel et inégal pour les résidents noirs et les résidents de couleur en raison de biais algorithmiques inhérents qui n’ont pas été efficacement traités dans la conception de logiciels. dit le rapport. « En outre, le sous-comité est préoccupé par l’absence d’entités d’audit indépendantes pour certifier que la technologie de reconnaissance faciale est exempte de préjugés raciaux et autres. »

Que ces recommandations obtiennent une traction reste une question ouverte. Le comité complet de la technologie et de l’innovation devrait discuter du rapport la semaine prochaine.

Comment le LBPD utilise-t-il la reconnaissance faciale ?

Pour l’instant, la LBPD dit qu’elle n’utilise que la reconnaissance faciale pour générer des pistes dans les enquêtes criminelles.

Selon le département, la seule méthode qu’il utilise actuellement pour ce faire est de prendre une vidéo de spectateur ou de caméra de sécurité et de la comparer à un énorme trésor d’environ 9 millions de photos dans le système d’identification régional du comté de Los Angeles ou LACRIS.

LACRIS, qui est maintenu par le département du shérif du comté de Los Angeles, est une énorme base de données régionale qui stocke les informations d’identification de toute personne arrêtée dans le comté.

La base de données, que la LBPD dit être utilisée depuis des années, impose ses propres limites à l’utilisation de la reconnaissance faciale :

« Toutes les recherches commencent par une image de sonde criminelle (suspect) qui est recherchée dans une base de données d’individus précédemment arrêtés », indique l’agence dans son guide du système.

Lorsque le système fournit une correspondance, il ne s’agit pas d’une identification ferme. Au contraire, « il aide au processus d’identification en fournissant aux candidats des correspondances possibles avec l’image recherchée », selon les documents de LACRIS.

Les recherches du LACRIS ont été « contributives » pour identifier les pilleurs présumés après les manifestations pour la justice raciale du 31 mai de l’année dernière, a déclaré Hebeish de LBPD lors d’une autre réunion du comité de la sécurité publique le mois dernier.

Mais ces pistes de LACRIS, a-t-il dit, n’étaient qu’un point de départ.

« Nos détectives doivent corroborer ces informations, et cela leur donne une orientation à rechercher, et un suivi d’enquête supplémentaire est nécessaire pour développer des soupçons raisonnables, une cause probable et constituer un dossier pour le bureau du procureur de district », a déclaré Hebeish.

Des dizaines d’autres organismes d’application de la loi du comté de LA utilisent également le système, y compris le LAPD.

Néanmoins, les organisations de défense des droits civiques, y compris l’American Civil Liberties Union, affirment que la surreprésentation des hommes noirs et latinos dans les bases de données de photos d’identité crée un système intrinsèquement raciste.

En outre, disent-ils, les algorithmes utilisés dans les logiciels de reconnaissance faciale disponibles dans le commerce identifient plus fréquemment les personnes de couleur et les femmes de manière erronée, faisant ainsi planer le spectre d’enquêtes erronées ciblant plus fréquemment les communautés sous-représentées.

L’ACLU s’est jointe à une coalition d’organisations de défense des droits civiques et de la protection de la vie privée qui font pression pour l’interdiction de l’utilisation gouvernementale de la technologie de reconnaissance faciale.

Dans une lettre adressée cette année au président Joe Biden, ils affirment que la technologie « est dangereuse car elle présente des préjugés raciaux, sexistes et autres évidents et elle est également dangereuse lorsqu’elle fonctionne. Même si la technologie fonctionnait parfaitement, elle faciliterait le suivi en masse des déplacements de chacun dans l’espace public, ce qui est intolérable dans une société libre et ouverte. Nous ne pouvons pas permettre sa normalisation.

Localement, les critiques de la technologie de reconnaissance faciale ont soulevé les mêmes problèmes.

« Avant que la ville ne donne le feu vert à l’utilisation continue et incontrôlée de la reconnaissance faciale par la LBPD, les problèmes inhérents d’équité et de justice raciale qui y sont associés doivent être résolus », a écrit l’avocat Greg Buhl, qui a utilisé des dossiers publics pour faire campagne contre l’utilisation de la LBPD par la LBPD. La technologie.

Buhl allègue que le LBPD a parfois utilisé des outils particulièrement controversés comme ceux commercialisés par Clearview AI, une entreprise qui a récupéré des milliards de photos accessibles au public sur les réseaux sociaux et d’autres parties d’Internet pour créer une base de données massive d’informations identifiables à laquelle elle vend maintenant. les abonnés.

Le produit de Clearview AI a déclenché des recours collectifs aux États-Unis, des enquêtes gouvernementales en Grande-Bretagne et en Australie et une interdiction pure et simple au Canada, qui l’a jugé illégal, selon le New York Times.

« C’est probablement l’une des entreprises les plus diaboliques jamais créées », a déclaré Buhl au comité de sécurité publique du conseil le mois dernier.

Lors de cette réunion, Hebeish a déclaré que son département utilisait auparavant des logiciels de reconnaissance faciale de fournisseurs autres que LACRIS uniquement à titre d’essai, « mais maintenant nous interdisons tout essai de ce type de logiciel sans approbation au niveau de la commande ».

Et après?

Lors de l’audience du comité de la sécurité publique de vendredi, une demi-douzaine de membres du public ont dénoncé l’utilisation par le département de la reconnaissance faciale, soulignant les préjugés inhérents mis en évidence par l’ACLU, Buhl et d’autres.

Mais, « la recherche montre qu’en général, les résidents sont favorables à l’amélioration de la technologie au sein des services de police », selon le rapport du sous-comité qui fera l’objet d’un débat la semaine prochaine au sein du comité de la technologie et de l’innovation.

Le rapport cite une étude de 2019 du Pew Research Center qui a révélé que 56 % des forces de l’ordre de confiance du public utilisent la technologie de reconnaissance faciale de manière responsable, et il loue la capacité de la technologie à aider à identifier les suspects dans des cas comme l’attentat du marathon de Boston et l’émeute au Capitole des États-Unis plus tôt cette année.

Cependant, souligne-t-il, la reconnaissance faciale a toujours du mal à identifier avec précision les personnes qui ne sont pas des hommes blancs ou des hommes d’Asie de l’Est.

« Pour tout autre groupe, y compris les groupes amérindiens, noirs et féminins, (il) n’a pas encore la précision nécessaire pour être un atout pour les efforts de la ville », indique-t-il.

Les auteurs signalent que de grandes villes comme Seattle, Portland et Oakland ont soit interdit la technologie de reconnaissance faciale, soit adopté des ordonnances strictes limitant son utilisation.

À moins que Long Beach ne protège également de manière adéquate contre les biais et les risques potentiels, la reconnaissance faciale pourrait entraîner une « érosion potentielle de la confiance du public dans la police », selon le rapport.

Le plein La Commission de la technologie et de l’innovation est prévu pour discuter du rapport le mercredi à 15h30