Interdire la dangereuse technologie de reconnaissance faciale qui amplifie la police raciste

Amnesty International lance aujourd’hui une campagne mondiale pour interdire l’utilisation des systèmes de reconnaissance faciale, une forme de surveillance de masse qui amplifie la police raciste et menace le droit de manifester.

le Interdire l’analyse La campagne démarre avec la ville de New York et se développera ensuite pour se concentrer sur l’utilisation de la reconnaissance faciale dans d’autres parties du monde en 2021. Les systèmes de reconnaissance faciale sont une forme de surveillance de masse qui viole le droit à la vie privée et menace les droits à la liberté de réunion et expression pacifiques.

La reconnaissance faciale risque d’être utilisée comme arme par les forces de l’ordre contre les communautés marginalisées du monde entier. De New Delhi à New York, cette technologie invasive retourne nos identités contre nous et porte atteinte aux droits humains.

La technologie exacerbe le racisme systémique car elle pourrait avoir un impact disproportionné sur les personnes de couleur, qui sont déjà victimes de discrimination et de violations de leurs droits humains par les forces de l’ordre. Les Noirs sont également les plus à risque d’être mal identifiés par les systèmes de reconnaissance faciale.

«La reconnaissance faciale risque d’être utilisée comme arme par les forces de l’ordre contre des communautés marginalisées à travers le monde. De New Delhi à New York, cette technologie invasive retourne notre identité contre nous et porte atteinte aux droits humains », a déclaré Matt Mahmoudi, chercheur en intelligence artificielle et droits humains à Amnesty International.

«Les New-Yorkais devraient pouvoir vivre leur vie quotidienne sans être suivis par la reconnaissance faciale. D’autres grandes villes des États-Unis ont déjà interdit la reconnaissance faciale et New York doit faire de même. »

À New York, Amnesty s’est associée à AI for the People, au Surveillance Technologies Oversight Project, au Immigrant Defence Project, à la New York Civil Liberties Union, au bureau du New York City Public Advocate., The Privacy NY Coalition, Le sénateur d’État Brad Hoylman et Studios Rada faire campagne pour une législation interdisant l’utilisation de la technologie de reconnaissance faciale pour la surveillance de masse par les forces de l’ordre dans la ville.

«L’utilisation par la police de la technologie de reconnaissance faciale place des New-Yorkais innocents sur une file perpétuelle et viole nos droits à la vie privée. La reconnaissance faciale est omniprésente, non réglementée et devrait être interdite », a déclaré Mutale Nkonde, fondateur et PDG de AI For the People.

Albert Fox Cahn, directeur exécutif du projet de surveillance des technologies de surveillance au Centre de justice urbaine, a déclaré: «La reconnaissance faciale est biaisée, brisée et contraire à la démocratie. Pendant des années, le NYPD a utilisé la reconnaissance faciale pour suivre des dizaines de milliers de New-Yorkais, exposant les New-Yorkais de couleur au risque de fausses arrestations et de violences policières. Interdire la reconnaissance faciale ne protégera pas seulement les droits civils: c’est une question de vie ou de mort. »

La technologie de reconnaissance faciale peut être développée en récupérant des millions d’images à partir de profils de réseaux sociaux et de permis de conduire, sans le consentement des gens. Le logiciel exécute ensuite une analyse faciale des images capturées sur CCTV ou autre vidéosurveillance pour rechercher des correspondances potentielles avec la base de données d’images grattées.

Alors que d’autres villes américaines, dont Boston, Portland et San Francisco, ont interdit l’utilisation de la technologie faciale par les forces de l’ordre, le service de police de New York [NYPD] continue d’utiliser la technologie pour intimider et harceler les résidents respectueux de la loi, comme on l’a vu lors des manifestations de Black Lives Matters de l’année dernière.

L’utilisation par la police de la technologie de reconnaissance faciale place les New-Yorkais innocents sur une file perpétuelle et viole nos droits à la vie privée. La reconnaissance faciale est omniprésente, non réglementée et devrait être interdite.

Les vies noires comptent

Le 7 août 2020, des dizaines de policiers du NYPD ont tenté de se frayer un chemin dans l’appartement de Derrick «Dwreck» Ingram lors d’une tentative d’arrestation. Ils ont accusé Dwreck, co-fondateur de l’organisation de justice sociale Warriors in the Garden, d’avoir agressé un policier en criant fort dans un mégaphone lors d’une manifestation en juin.

Un policier a été filmé devant la maison de Dwreck tenant un document intitulé «Rapport d’information de la section d’identification faciale», révélant que la reconnaissance faciale avait probablement été utilisée pour informer l’arrestation de Dwreck. Le document présentait le visage de Dwreck assorti à une photo Instagram.

Le NYPD a mal informé Dwreck sur ses droits, a menacé de casser sa porte, a tenté de l’interroger sans avocat, a utilisé au moins un hélicoptère de police et des drones, et a stationné des dizaines d’agents dans son couloir, sur son issue de secours et dans des positions tactiques. dans et autour des bâtiments voisins. La police n’est partie qu’après que Dwreck ait retransmis les événements en direct, une grande foule de manifestants s’est rassemblée et les médias ont commencé à poser des questions.

Des affiches «recherchées» de la police avec des photos prises sans son consentement sur le compte Instagram privé de Dwreck ont ​​été placardées dans le quartier de Dwreck. Bien que le NYPD ait initialement confirmé qu’il avait utilisé la technologie de reconnaissance faciale, il n’a pas encore divulgué de manière adéquate la documentation dans l’affaire juridique de Dwreck sur l’utilisation technologie de reconnaissance faciale.

«Nous sommes spécifiquement ciblés par cette technologie en raison de ce que nous protestons et parce que nous essayons de déconstruire un système dont la police fait partie», a déclaré Dwreck Ingram.

L’impact discriminatoire de la technologie de reconnaissance faciale va bien au-delà de son utilisation par les forces de l’ordre pour cibler des manifestants pacifiques. À New York, les propriétaires risquent d’utiliser la technologie pour espionner les communautés noires et brunes.

En 2018-2019, Atlantic Plaza Towers à Ocean Hill-Brownsville, Brooklyn, une communauté à prédominance noire et brune, a contesté avec succès l’installation de caméras de reconnaissance faciale dans le complexe d’appartements par le propriétaire Nelson Management Group.

Les résidents qui ont initialement fait campagne contre l’utilisation de la reconnaissance faciale ont été menacés par le propriétaire avec des impressions de leurs visages provenant de caméras de surveillance et ont dit d’arrêter de s’organiser. Dirigés par Tranae Moran et Fabian Rogers, les habitants ont refusé de reculer. Après que les locataires ont intenté une action en justice pour mettre fin à l’invasion de la vie privée et à la collecte de données biométriques de toute personne entrant dans le complexe, combinés à la pression soutenue générée par l’organisation communautaire de Tranae et Fabian et la collaboration avec les organisations de la société civile et les médias, Nelson Management Group a annoncé en novembre 2019 lors d’une réunion d’association de locataires, ils n’installeraient pas la reconnaissance faciale dans le complexe.

Amnesty International Interdire l’analyse Le lancement de la campagne est accompagné d’un site Web où les résidents de New York peuvent générer des commentaires sur l’utilisation de la reconnaissance faciale par le NYPD via la loi POST (Public Oversight on Surveillance Technologies), et plus tard dans la campagne, générer des demandes d’accès à l’information pour voir où la reconnaissance faciale la technologie est utilisée dans leurs communautés.

Le site sera agrandi en mai 2021, lorsque Amnesty Decoders – un réseau mondial d’activistes numériques aidera à géolocaliser les appareils de surveillance compatibles avec la reconnaissance faciale à New York afin que les résidents sachent exactement où la technologie est utilisée. Le site propose également des ressources pour aider les gens à mieux se protéger lors des manifestations et contre l’utilisation de la technologie de reconnaissance faciale.

Amnesty International appelle à une interdiction totale de l’utilisation, du développement, de la production et de la vente de technologies de reconnaissance faciale à des fins de surveillance de masse par la police et d’autres agences gouvernementales et demande une interdiction des exportations de ces systèmes technologiques.