comment la confusion sur la technologie qui dirige notre monde menace la démocratie

Thomas Jefferson, l’homme d’État américain et troisième président américain, était beaucoup de choses (y compris, notoirement, un propriétaire d’esclaves). Mais quoi qu’il soit d’autre (ou non), il croyait fermement en ce qu’il appelait le «suffrage du peuple» – ce que nous appellerions aujourd’hui la démocratie.

La démocratie qu’il avait en tête, bien sûr, n’était pas un véritable «suffrage général» de tous les citoyens: dans sa forme la plus ambitieuse, elle n’émettait que les contribuables et les soldats de sexe masculin. Il était également très éloigné de l’idéal classique établi par l’Athènes antique, dans lequel tous les citoyens éligibles se réunissaient régulièrement pour débattre et régler la politique. Pourtant, même la version limitée et strictement «représentative» de la démocratie de Jefferson exigeait quelque chose de vital pour fonctionner correctement: pas seulement une fonction publique compétente et bien informée, mais un public électoral bien informé.

Comme Jefferson l’a lui-même dit: «Chaque fois que les gens sont bien informés, ils peuvent avoir confiance en leur propre gouvernement.» La plupart des démocraties occidentales souscrivent à cet exemple aujourd’hui. Mais face aux progrès scientifiques et technologiques au cours du XXe siècle, de nombreux politologues, futurologues et journalistes se sont interrogés sur l’avenir de la démocratie.

Dans la quête de savoir où nous allons, une question évidente se pose. À quel point pouvons-nous nous attendre à ce que le citoyen moyen soit dans un monde qui devient de plus en plus complexe et déroutant de jour en jour? Il serait naïf de penser que l’essor de la science et de la technologie n’a pas rendu plus difficile la compréhension des problèmes auxquels nous sommes confrontés en tant que citoyens.

Le réchauffement climatique est le problème le plus marquant. À moins d’appartenir à une poignée d’experts bien informés sur la géologie, la météorologie et l’océanographie, vous devez faire un effort sérieux pour comprendre les subtilités de la science du climat.

Ajoutez le scepticisme du réchauffement climatique aux nouvelles et il n’est pas étonnant que le scepticisme climatique soit si élevé dans certains pays. Aux États-Unis, jusqu’à 20% des citoyens américains ne pensent pas que l’activité humaine contribue beaucoup, voire rien du tout, au changement climatique. En Australie, 38% des personnes interrogées ne considèrent pas le changement climatique comme une menace majeure. La même enquête a révélé qu’au Canada, ce chiffre est de 34% et au Royaume-Uni de 30%.

Il y a un nouveau jeu en ville

Malheureusement, ces cinq à dix dernières années ont également vu l’essor de l’intelligence artificielle (IA), et plus particulièrement d’une branche de l’IA appelée «machine learning».

L’apprentissage automatique occupe une place intéressante dans l’histoire du progrès scientifique. D’une part, c’est le résultat naturel des développements de l’informatique qui ont débuté dans les années 1980. D’autre part, sa dépendance totale à l’information – et sa capacité à se contenter de toutes sortes d’informations, y compris des choses comme votre frappe et votre fréquence cardiaque – marque ce qui pourrait s’avérer être une rupture plus radicale avec les technologies précédentes.

L’apprentissage automatique utilise les informations existantes pour générer de nouvelles informations. Mais cela permet également d’utiliser ces nouvelles informations pour une variété d’utilisations douteuses, y compris la surveillance et la manipulation.

Si des produits vous ont déjà été recommandés lors de vos achats en ligne, vous avez probablement été profilé. Avez-vous déjà été refusé une demande de carte de crédit en peu de temps? Encore une fois, vous avez probablement été profilé. Le profilage algorithmique présente une foule de défis éthiques et juridiques, en particulier en ce qui concerne la discrimination et la vie privée. Mais le profilage n’est que la pointe d’un iceberg en constante expansion.

La démocratie attaquée?

De nombreuses utilisations des grandes technologies constituent une menace pour les individus en tant qu’individus, ce qui est déjà assez grave. D’autres utilisations, cependant, constituent une menace pour les individus en tant que citoyens démocratiques. Malheureusement, il y a déjà un exemple remarquable ici.

En 2017, il est apparu que la société britannique, Cambridge Analytica, avait aidé la campagne britannique Brexit Leave 2016 en lui fournissant des services de publicité politique ciblés. Ces services ont été facilités par l’accès aux données de Facebook, dans une violation majeure des propres politiques de Facebook.

Ces publicités dites «sombres» sont généralement envoyées aux personnes les plus susceptibles d’y être sensibles. Contrairement aux brochures et aux boîtes aux lettres à l’ancienne, les publicités ne sont pas distribuées de manière aléatoire. Ils sont ciblés, sur la base d’une exploration approfondie de l’historique de navigation des gens, des likes Facebook, des tweets et des achats en ligne. De plus, une annonce sombre est généralement envoyée sans que le destinataire ait l’avantage d’entendre le point de vue opposé.

Ce n’est pas ainsi que le «marché des idées» démocratique est censé fonctionner. En effet, la manière dont nous devons comprendre et réguler l’influence des algorithmes sur nos perceptions fait partie des questions les plus importantes que l’IA pose aujourd’hui. Une autre question à se poser est celle de savoir pourquoi tant de gouvernements dans le monde semblent déterminés à automatiser l’administration publique alors que de nombreuses preuves suggèrent que ce n’est souvent ni efficace ni équitable.

Un manque de compréhension fondamental fait obstacle à un engagement civique plus fructueux avec l’IA, les données et les grandes technologies. Mais en tant que citoyens, nous devons savoir ce qui se passe et qui en profite.

C’est pourquoi mes collègues et moi nous sommes réunis et avons écrit un livre qui, selon nous, aidera les gens à se frayer un chemin dans la jungle de l’IA. Les citoyens méritent plus qu’une connaissance superficielle de la technologie – rien pour semer la confusion, mais suffisamment pour éclairer une compréhension de principe du monde qui les entoure.

Comme le disait le journaliste de Time Frank Trippett en 1979: «L’expert devra jouer un rôle plus conscient en tant que citoyen, tout comme le citoyen ordinaire devra devenir de plus en plus un étudiant des connaissances techniques.»

Nous espérons que davantage de journalistes, de chefs de file de l’industrie et d’universitaires réaliseront la vision de Trippett en devenant eux-mêmes des citoyens experts. Cela signifie donner aux gens autant d’informations claires dont ils ont besoin pour faire des choix démocratiques éclairés et responsables. La démocratie n’exige rien de moins.