Notre monde en ligne est le nouveau Far West, et tout aussi dangereux

Dans le cadre d’un partenariat payant, ce mois-ci Le centre présentera des extraits des cinq livres présélectionnés cette année pour le prix Donner, décerné au meilleur ouvrage sur les politiques publiques au Canada. Notre podcast Hub Dialogues proposera également des entretiens avec les auteurs. Le titre gagnant wje serai a reçu 60 000 $ de la Fondation canadienne Donner le 8 mai.

Ce qui suit est un extrait de L’erreur de confidentialité : préjudice et pouvoir dans l’économie de l’information (Cambridge University Press, 2023).

Toutes vos interactions, mouvements et décisions sont collectés en temps réel et attachés à des profils utilisés par les annonceurs pour attirer votre attention. Non pas parce qu’ils pensent que vous êtes spécial ou parce qu’ils souhaitent en savoir plus sur vous pour mieux vous connaître, mais parce que, quels que soient votre âge, votre sexe ou votre pays d’origine, vous êtes monétisable. Lorsqu’ils sont combinés, ces petits morceaux de nous-mêmes alimentent une industrie de plusieurs milliards de dollars qui menace les moyens de subsistance, les vies et les institutions démocratiques.

Le pire n’est pas que nous recevons peu en échange. En effet, tout comme les entreprises qui polluent l’atmosphère ou délocalisent leur production dans des endroits où elles peuvent violer les droits humains des travailleurs, chaque étape de l’industrie des données crée des pertes et des préjudices opaques mais réels. Les entreprises qui collectent, traitent et vendent nos informations personnelles créent des préjudices invisibles mais qui ont des conséquences désastreuses pour les personnes concernées.

Clara Sorrenti a vécu elle-même les conséquences des atteintes aux données. Elle a reçu des menaces de mort, a vu son adresse personnelle trouvée et partagée, a vu des documents intimes sur sa famille révélés et a été « écrasée » – la pratique consistant à signaler faussement une urgence policière pour envoyer des unités armées au domicile d’une personne innocente, une expérience qui, pour Clara, s’est retrouvée avec un fusil d’assaut pointé sur sa tête. Clara a été victime de Kiwi Farms, une plateforme qui coordonne la collecte d’informations disponibles en ligne pour cibler les personnes trans. Pour que la loi considère que vous avez harcelé quelqu’un, vous devez le contacter plusieurs fois. Ainsi, si une plateforme mutualise les informations et coordonne les personnes qui contactent chacune une fois une victime, comme ce fut le cas pour Clara, elle produit du harcèlement tout en échappant à sa définition juridique.

Décrivant son expérience, Clara a expliqué : « Lorsque vous créez votre propre fil de discussion sur Kiwi Farms, cela signifie qu’il y a suffisamment de personnes intéressées à s’engager dans une campagne de harcèlement à long terme contre vous. » Elle a quitté son domicile après l’incident, mais Kiwi Farms l’a retrouvée en comparant les modèles de draps d’hôtel à partir d’une photo qu’elle a prise avec des informations disponibles en ligne. Clara a fui le pays pour échapper aux abus et Kiwi Farms l’a retrouvée.

Considérer le harcèlement de Clara comme le fait de quelques mauvaises personnes ignore un problème systémique plus large. Dans notre écosystème numérique, il est facile d’obtenir et d’utiliser nos données d’une manière qui nous cause du tort – comme un colocataire exploitant la sexualité d’une adolescente à des fins de divertissement ou un site Web exploitant la sécurité physique des femmes trans pour gagner de l’argent. Parce que les préjudices subis par Clara ne sont pas simplement le résultat de trolls individuels, mais plutôt emblématiques d’un écosystème qui permet et amplifie les préjudices liés aux données, sa situation n’est pas exceptionnelle. Une partie de ce qui est choquant dans ses histoires, c’est qu’elle a subi d’énormes dommages causés par quelque chose d’aussi courant que les webcams et les blogs.

Les dommages causés aux données diffèrent. Certaines sont visibles et affectent des personnes comme Clara de manière individualisée, avec des conséquences immédiates sur leurs moyens de subsistance. Les victimes quotidiennes comprennent des femmes victimes de harcèlement et d’abus en ligne, des personnes racialisées confrontées à une discrimination systémique amplifiée et toute personne victime d’usurpation d’identité parce que ses informations financières ont été prises à son insu. Toutefois, la plupart des méfaits de l’économie de l’information sont opaques et largement dispersés. Citons par exemple la manipulation en ligne visant à faire des choix personnels et financiers allant à l’encontre de nos meilleurs intérêts (appelée « modèles sombres ») et la normalisation de la surveillance pour extraire constamment des données personnelles (appelée « exploration de données »).

Clara et d’autres victimes sont entraînées dans l’économie de l’information – une industrie de plusieurs milliards de dollars alimentée par la collecte, le traitement et le partage d’informations personnelles pour produire des produits et services numériques. Lorsque nous examinons les interactions avec les données, nous oublions parfois qu’elles sont là. Par exemple, dans la diffusion non consensuelle d’images intimes, on a tendance à concentrer toute la faute sur le premier auteur. Mais lorsque des photos intimes deviennent virales, cela signifie que des centaines de personnes les ont republiées et que des sites Web en ont tiré profit de la publicité ou des abonnements. Les victimes subissent un préjudice car il existe un écosystème de données qui facilite et encourage ce phénomène.

L’économie de l’information permet aux entreprises et aux individus d’instrumentaliser les autres pour leur propre profit – et elle les amplifie. Il n’existe donc pratiquement pas de cas d’un auteur et d’une victime. Nous manquons de responsabilité sur ce qui arrive à nos données et sur les préjudices qui nous arrivent à cause de nos données. En ayant une meilleure image de cet écosystème de données, les lois peuvent mieux réduire et réparer les dommages causés aux données.