La surveillance est une question de cerveau (logiciel) | Womble Bond Dickinson
Les yeux sont importants, ne vous méprenez pas. Il en va de même pour les oreilles, le nez, les langues, les doigts, les organes d’étalonnage de la balance et tout ce qui alimente votre énorme cerveau.1 Les détecteurs de salinité chez les narvals, les capteurs électriques dans les mangeoires de fond d’eau douce, l’écholocation chez les chauves-souris fournissent tous des entrées sensorielles que les humains ne pourraient pas traiter de manière adéquate. Chaque bête a ses propres sens en rapport avec ses propres conditions de vie.
Même votre smartphone possède des caméras, des microphones, des gyroscopes, un accéléromètre, un magnétomètre, des interfaces pour téléphone / GPS / Bluetooth / WiFi, et certains ont un baromètre, des capteurs de proximité et des capteurs de lumière ambiante. L’équipement de détection biométrique des téléphones d’aujourd’hui peut inclure des lecteurs d’empreintes digitales optiques, capacitifs ou ultrasoniques et un capteur de carte infrarouge pour les visages.
Mais sans moyen d’organiser et de donner un sens aux signaux capturés par ces nombreux périphériques d’entrée, l’ensemble du système ne vaut pas grand-chose. Voir un taureau en colère et massif se précipiter sur vous ne fera pas beaucoup de différence à moins que vous ne puissiez transformer cette information en une action appropriée – comme s’enfuir ou grimper rapidement à un arbre.
Je soulève cette question parce que, si l’introduction de millions de caméras de surveillance a fait l’objet d’une importante presse au cours des dernières années, la véritable avancée en matière de surveillance est mise en œuvre de manière plus silencieuse. Des logiciels et des systèmes d’apprentissage automatique qui peuvent donner un sens à des milliards d’entrées ont été introduits et s’améliorent chaque jour, et c’est cette capacité qui rend la surveillance sociale si dangereusement efficace et si menaçante pour notre vie privée.
En février, Wired a publié un article sur le logiciel Citigraf de Genetec qui avait été implémenté avec succès à Chicago. Le logiciel utilise un «moteur de corrélation» qui lit non seulement les flux des capteurs de la ville pour l’audio en direct (capteurs de coups de feu, appels au 911) et la vidéo (lecteurs de plaques d’immatriculation, caméras de surveillance de la circulation), mais également les enregistrements de police historiques pour les modèles et les connexions, présentant un temps réel image des événements survenus et interprétations dont les événements nécessitent une attention officielle.
Lorsque l’auteur, qui passe en revue depuis une salle d’exposition Genetec à des milliers de kilomètres, clique sur une icône représentant une agression dans le quartier qu’il regardait, «Quelques secondes plus tard, une longue liste de pistes possibles est apparue à l’écran, y compris une liste d’individus précédemment arrêtés dans le quartier pour les crimes violents, les adresses du domicile des libérés conditionnels vivant à proximité, un catalogue d’appels 911 similaires, des photographies et des numéros de plaque d’immatriculation de véhicules qui avaient été détectés en train de s’éloigner de la scène, et des flux vidéo de toute caméra qui aurait pu recueillir des preuves du crime lui-même, y compris ceux montés sur des bus et des trains qui passent. Plus qu’assez d’informations, en d’autres termes, pour qu’un officier réponde à cet appel initial 911 avec un sens presque télépathique de ce qui vient de se dérouler.
Le cerveau des bêtes prend des entrées visuelles et audio brutes, les combine avec des connaissances et une expérience antérieures et crée une intelligence exploitable. Maintenant, la police de Chicago a un cerveau collectif pour faire la même chose avec les contributions des yeux et des oreilles de la ville et les connaissances et l’expérience enregistrées dans les bases de données de service.Ainsi, lorsque les agents sont appelés sur une scène, ils n’ont pas seulement une description de trois mots. l’incident, mais un univers contextuel complet d’informations sur lequel s’appuyer. Cela rend l’application de la loi plus sûre et plus efficace, mais cela soulève également des problèmes de confidentialité pour toute personne dont le nom / visage est lié à un crime par l’ordinateur.
Dans une ville qui a connu plus de meurtres que New York et Los Angeles réunis ces dernières années, la vie privée peut être moins préoccupante que l’amélioration de la précision et de la réactivité de la police. En utilisant un logiciel de reconnaissance des coups de feu, les «nerds» de la police de Chicago peuvent parfois trouver des images d’un tireur avant que tous les coups aient été tirés. Mais l’ACLU a demandé à la ville de Chicago de mettre en place un moratoire sur le déploiement d’une caméra supplémentaire jusqu’à ce qu’un examen de la confidentialité soit effectué. Je dirais que ce ne sont pas les caméras qui sont la préoccupation de confidentialité. Au lieu de cela, il s’agit du logiciel d’analyse approfondie combinant leurs vues avec des tonnes de données connexes.
L’UE a une loi qui permet aux gens de s’opposer légalement aux décisions affectant leur vie si ces décisions ont été prises par une machine. Ce mois-ci, l’UE prévoit de publier des plans détaillés de réglementation de l’intelligence artificielle, y compris des règles limitant l’utilisation des technologies de surveillance biométrique dans les cerveaux de police et de surveillance comme Citigraf utilisé à Chicago. Il sera intéressant de voir comment la précipitation pour appliquer toutes les nouvelles technologies dans les situations d’application de la loi se déroulera lorsqu’elle atteindra le mur de briques des exigences de l’UE en matière de confidentialité. Jusqu’à présent, les forces de l’ordre ont largement échappé à une sérieuse censure, mais cela pourrait bientôt changer.
Le service de police de Londres – entièrement Brexited, mais toujours lié aux règles de confidentialité de l’UE – a annoncé en janvier qu’il utiliserait un logiciel de reconnaissance faciale pour repérer de manière proactive les suspects criminels sur l’énorme réseau vidéo installé dans cette capitale. Un creuset international avec une histoire d’attentats terroristes, Londres a institué une surveillance agressive. Selon le New York Times, le nouveau système de Londres «peut identifier immédiatement les personnes sur une liste de surveillance de la police dès qu’elles sont filmées sur une caméra vidéo». Le principal organisme de réglementation de la protection de la vie privée du Royaume-Uni a fait état de préoccupations concernant le système, en particulier si la police de Londres avait comparé la nécessité d’utiliser ces données intrusives avec les dommages qu’elles infligeraient à la vie privée des citoyens.
Bien entendu, aucune de ces préoccupations n’est pertinente en Chine, où leur vaste réseau de surveillance prend en charge un système de notation sociale pour maintenir les résidents en conformité avec les exigences et les préférences du gouvernement. Le gouvernement chinois a combiné les yeux et les oreilles de son réseau avec un logiciel d’IA sophistiqué qui peut non seulement reconnaître les visages et placer rapidement des démérites sociales sur le compte d’un citoyen – des démérites qui peuvent coûter à ce citoyen un travail, un appartement ou la permission de fonder une famille – mais peut appeler les agents du gouvernement à prendre la liberté du citoyen. Selon un rapport de la Brooking Institution, «Malgré un degré élevé d’inquiétude concernant la technologie de surveillance chinoise, le discours politique actuel aux États-Unis et à l’étranger a peut-être sous-estimé l’ampleur et la vitesse de sa propagation. . . [The Chinese technologies] impliquent une plate-forme d’intégration et d’analyse de données prenant en charge un ou plusieurs centres de commande et de contrôle de haute technologie. La plate-forme collecte, intègre et analyse des données provenant d’un large éventail de sources, telles que les casiers judiciaires, d’autres bases de données gouvernementales, des caméras de surveillance en réseau, des applications de reconnaissance faciale et de plaque d’immatriculation, et d’autres sources. » L’étude note que des entreprises chinoises liées au gouvernement ont été sanctionnées à l’étranger pour «la mise en œuvre de la campagne de répression, de détention arbitraire de masse et de surveillance de haute technologie de la Chine».
Alors, est-ce notre avenir? Au fur et à mesure que l’équipement de détection se développe partout, les cerveaux logiciels / IA combineront-ils des entrées sensorielles avec des entrepôts de données pour non seulement surveiller chacun de nos mouvements, mais évaluer chaque mouvement dans le filtre de l’approbation ou de la défaveur du gouvernement? Une fois les systèmes en place, il sera difficile de les faire reculer, nous devrions donc exiger des comptes maintenant, avant que la bête ne dépasse notre capacité à la contrôler.
1 Je suppose que quiconque lit ce blog possède clairement un intellect prodigieux, ainsi que du goût, du raffinement et un caractère admirable apparent à tous.