Bibliothèques et technologie invasive | Magazine des bibliothèques américaines

La session à la demande Top Tech Trends à la Midwinter Meeting & Exhibits Virtual de l’American Library Association a adopté une approche différente cette année. Plutôt que de mettre en évidence une gamme de nouveaux services ou gadgets, le modérateur TJ Lamanna, bibliothécaire des technologies émergentes à la bibliothèque publique de Cherry Hill (NJ), a déclaré que l’objectif du panel cette fois était de parler des dangers inhérents à certaines des technologies que les bibliothèques pourraient être. intéressé à utiliser.

John Mack Freeman, directeur de la succursale de Suwanee de la bibliothèque publique du comté de Gwinnett (Géorgie), a ouvert avec un clip qui semblait montrer l’ancien président américain Barack Obama exprimant son soutien à Panthère noire méchant du film Erik Killmonger. (Le clip était en fait un PSA produit par BuzzFeed par le réalisateur Jordan Peele, qui a imité les modèles de discours d’Obama avec une vidéo intelligemment synchronisée.)

C’était un exemple choquant de deepfake. Deepfakes utilise des réseaux de neurones artificiels pour remplacer une personne dans une image ou une vidéo existante par la ressemblance de quelqu’un d’autre. Les bons deepfakes sont coûteux à produire et nécessitent des compétences techniques et un traitement avancé. Les deepfakes produits par le biais de programmes gratuits et facilement disponibles tels que les filtres de réseaux sociaux et les échanges de visage sont souvent appelés «cheapfakes».

Freeman a déclaré que les deepfakes eux-mêmes ne constituent pas une menace et ne sont pas toujours produits à des fins malveillantes. Les applications d’échange de visage ou la technologie qui insère des versions plus jeunes d’acteurs dans des films sont purement à des fins de divertissement, par exemple, tandis que les développements de l’IA dans les soins de santé peuvent remplacer numériquement la voix d’une personne atteinte d’une maladie dégénérative comme la SLA. Cependant, il existe de nombreuses utilisations problématiques, telles que la pornographie involontaire, la fraude financière et le phishing, et la désinformation politique conçue pour influencer les élections.

Le principal danger des deepfakes est qu’ils créent de la méfiance à l’égard des formes de médias – à savoir, les photos et les vidéos – auxquelles on faisait traditionnellement confiance. Cela rend la maîtrise de l’information plus complexe; les bibliothécaires ne peuvent pas simplement dire aux étudiants et aux clients de penser de manière critique. «À mon avis», a déclaré Freeman, «nos outils actuels de maîtrise de l’information ne sont pas à la hauteur du défi des médias synthétiques répandus.»

Callan Bignoli, directeur de bibliothèque à l’Olin College of Engineering de Needham, Massachusetts, s’est concentré sur les effets du COVID-19 sur la technologie et la surveillance. Elle a commencé par recommander les livres L’ère du capitalisme de surveillance, automatisation des inégalités, questions sombres, et Course après la technologie.

Elle a noté que nous n’avons pas beaucoup de contrôle sur la technologie omniprésente qui nous surveille et nous traque. Les bibliothécaires se retrouvent souvent dans la position de former les gens sur la technologie parce que les entreprises technologiques ne sont pas transparentes sur le fonctionnement de leurs produits, ce qui entraîne une division entre les personnes qui comprennent les menaces des systèmes de suivi et de surveillance et celles qui ne le font pas. «C’est un peu un luxe de se protéger», a-t-elle ajouté. Autres faits saillants de sa présentation:

• Surveillance normalisée. Les données des caméras de sécurité, même celles des bibliothèques, peuvent être utilisées pour la reconnaissance faciale, une technologie qui gagne en popularité mais qui ne fonctionne pas parfaitement, en particulier pour identifier les personnes de couleur. Les faux matchs peuvent entraîner des arrestations et des affrontements mortels avec la police.
• La conservation des données. Devrions-nous avoir un dossier permanent? Bignoli fait valoir que non. Les lois sur le «droit à l’oubli» dans d’autres pays autorisent la suppression d’informations privées des bases de données en ligne, mais aux États-Unis, cela est considéré comme un affront à la liberté d’expression.
• Capitalisme en cas de catastrophe pendant le COVID-19. Les vendeurs et les technologues, comme la société du Massachusetts, qui ont utilisé le travail des prisons pour créer des boucliers en acrylique pour les bibliothèques, se précipitent pour aider les bibliothèques à traverser la crise pandémique.

Bignoli a conclu que les bibliothécaires devraient toujours privilégier la vie privée plutôt que la commodité et ouvrir des discussions avec leurs collègues et clients sur ces questions par des moyens tels que les clubs de lecture, la programmation et le travail de plaidoyer.

Jeanie Austin, qui a obtenu son doctorat en bibliothéconomie et sciences de l’information à l’Université de l’Illinois à Urbana – Champaign, a travaillé dans des prisons et des centres de détention pour mineurs et étudie maintenant le fonctionnement du pouvoir dans les espaces carcéraux. Souvent considérés à tort comme étant technologiquement vides, ces espaces sont fortement médiatisés sur le plan technologique, ont-ils déclaré.

Les technologies biométriques communément utilisées par le public ont été formées sur les personnes incarcérées, a déclaré Austin. Par exemple, dans certaines prisons, les détenus ont dû soumettre des empreintes vocales pour avoir accès aux appels téléphoniques, parfois sans savoir que ces données sont collectées. Les logiciels de visite vidéo, la reconnaissance faciale et la numérisation des empreintes digitales / paume en sont d’autres exemples.

Austin a cité plusieurs travaux de leurs recherches sur la surveillance en prison, notamment Matière noire, capitalisme carcéral, et Algorithmes d’oppression. Même parmi les personnes qui sont contre l’incarcération de masse, a noté Austin, il y a souvent une poussée pour plus de technologie, comme des tablettes qui peuvent ostensiblement être utilisées pour la réadaptation ou du moins pour occuper le temps des personnes incarcérées. Mais les informations disponibles sur les tablettes sont contrôlées par la prison ou la société propriétaire de la technologie.

Avec l’aide du gouvernement et des services de police, les entreprises privées qui concluent des contrats avec les prisons créent des bases de données d’informations à grande échelle – des bases de données qui contiennent des informations sur les personnes incarcérées (ainsi que les proches qui les contactent) et qui sont fortement biaisées par la classe et la race . La recherche d’Austin s’est penchée sur les brevets pour ces technologies et sur la manière dont les bases de données conservées à l’extérieur des prisons créent ce qu’ils ont appelé «de nouveaux mécanismes de contrôle et de restriction».

Austin a noté que ce sujet est pertinent pour la bibliothéconomie non seulement parce qu’il est lié à l’information, mais parce que certaines des premières technologies qui ont jeté les bases de cette surveillance ont été financées par les mêmes subventions gouvernementales qui ont financé les bibliothèques des prisons dans les années 1960 et 1970. Ils ont conclu en demandant: «Comment créer des moyens de fournir des informations qui ne renforcent pas davantage ce type de surveillance racialisée et criminalisante?»