Optimiser pour l’indignation: l’ex-chef du numérique d’Obama demande des freins aux grandes technologies | La technologie

Inscrivez-vous à la newsletter Guardian’s First Thing

Un ancien stratège numérique de Barack Obama a exigé la fin de l’optimisation de l’indignation axée sur le profit par les grandes technologies et a appelé les régulateurs à freiner la désinformation et la division en ligne.

Michael Slaby – auteur d’un nouveau livre, For All the People: Redeeming the Broken Promises of Modern Media and Reclaiming Our Civic Life – a décrit les géants de la technologie Facebook et Google comme «deux gorilles» écrasant la créativité même nécessaire pour combattre les théories du complot répandues par les anciens Le président américain Donald Trump et d’autres.

«Les systèmes ne sont pas en panne», a déclaré Slaby, 43 ans, au Guardian par téléphone depuis son domicile à Rhinebeck, New York. «Ils travaillent exactement comme ils ont été conçus pour le bénéfice de leurs concepteurs. Ils peuvent être conçus différemment. Nous pouvons exprimer et encourager un ensemble différent de valeurs publiques concernant les biens publics dont nous avons besoin dans notre sphère publique. »

Facebook compte près de 2,8 milliards d’utilisateurs actifs mensuels dans le monde, avec un total de 3,3 milliards utilisant l’un des principaux produits de la société – Facebook, WhatsApp, Instagram et Messenger – sur une base mensuelle. Son chiffre d’affaires au quatrième trimestre de l’année dernière était de 28 milliards de dollars, en hausse de 33% par rapport à l’année précédente, et les bénéfices ont grimpé de 53% à 11,2 milliards de dollars.

Mais le réseau social fondé par Mark Zuckerberg est accusé d’avoir bien empoisonné l’information. Les critiques disent que cela polarise les utilisateurs et permet aux discours de haine et aux théories du complot de prospérer, et que les personnes qui rejoignent des groupes extrémistes sont souvent dirigées par l’algorithme de la plate-forme. L’utilisation de Facebook par les partisans de Trump impliqués dans l’insurrection du 6 janvier au Capitole des États-Unis a suscité beaucoup d’attention.

Slaby pense que Facebook et Twitter ont été trop lents pour supprimer Trump de leurs plateformes. «C’est là que je pense qu’ils se cachent derrière des arguments comme le premier amendement», a-t-il déclaré. «Le premier amendement concerne la suppression du discours par le gouvernement; cela n’a rien à voir avec votre accès à Facebook.

«Ils ne veulent pas restreindre la liberté d’expression pour des raisons économiques et il y a donc un point de vue très cynique: oui, bien sûr, ils ont expulsé le président Trump juste avant l’investiture du président Biden après avoir gagné tout l’argent qu’ils pouvaient. allait être moins influent.

«Il mentait et faisait la promotion de la désinformation depuis longtemps avant cela, en connaissance de cause. Auraient-ils pu faire ce choix plus tôt? Oui. Ce choix était-il très difficile parce qu’il était un dirigeant élu de la démocratie la plus puissante du monde? Oui, c’est un choix vraiment difficile, comme une folle affaire faustienne.

«Mais c’est un endroit où le fait qu’ils étaient seuls en tant qu’entités privées, devant réfléchir à la façon de faire ce choix sans leadership moral public ou cadre réglementaire pour les aider, est en fait un gros problème. Il s’agit d’une décision purement privée dans une sphère très publique. C’est un problème – mais quelque chose que nous pouvons résoudre. « 

Slaby appelle à une combinaison de leadership moral, de plaidoyer public, d’engagement des politiciens, de nouveaux cadres réglementaires et d’une action collective des utilisateurs pour freiner quelques entreprises privées qui exercent actuellement une influence massive sur la sphère publique.

Slaby était directeur de la technologie de la campagne électorale d’Obama en 2008 et directeur de l’intégration et de l’innovation en 2012. Leur approche révolutionnaire de l’organisation en ligne a contribué à remporter deux victoires aux élections présidentielles. C’était une ère optimiste où les démocrates entretenaient une relation chaleureuse avec Facebook et Google et les médias sociaux semblaient promettre une communauté, une démocratisation et une diversité de voix.

Slaby, dont le livre examine comment la révolution technologique a plutôt sapé la vie civique, a commenté: «Mon expérience des dirigeants au sein de Facebook est que beaucoup d’entre eux sont des gens intelligents et bien intentionnés qui reconnaissent que les systèmes ne sont pas parfaits et qu’ils doivent changer. Ils sont dans un système économique qui ne les incite pas à être en meilleure santé et c’est délicat. Ils ne sont pas une B-Corp [a firm certified for its social and environmental performance]. C’est une entreprise à but lucratif dont les actionnaires exigent qu’ils soient optimisés pour le profit.

«Ce n’est pas toujours facile, même pour les meilleurs acteurs de Facebook, de faire de bons choix. Maintenant, cela dit, ils font beaucoup de choix qui semblent bons publiquement mais qui ne font pas vraiment bouger l’aiguille en termes de mécanismes de base d’attention et d’indignation à l’intérieur du système. Ce qui est vraiment nécessaire, ce sont des remaniements fondamentaux sur la façon dont nous nous engageons les uns avec les autres et sur les raisons pour lesquelles ces systèmes sont optimisés si nous voulons vraiment récupérer un discours civique sain.

Les défenseurs de Facebook s’opposeront certainement à une intervention gouvernementale brutale. Mais la régulation semble désormais incontournable.

Slaby affirme: «Nous ne pouvons rien faire. Ce que nous faisons ne fonctionne pas pour nous. Il y a une inquiétude valable à propos de la censure gouvernementale devenant le dictateur de ce qui est valable – la tyrannie de la majorité – mais qui a également été utilisée comme justification pour perpétuer le racisme en Amérique depuis le premier putain de jour de ce pays. Nous devons donc également être à l’écoute de ce que nous protégeons.

«La réponse est en fin de compte une question de transparence, de visibilité sur la façon dont nous faisons des choix, la capacité de faire des choix, en particulier comme les décisions algorithmiques, et d’avoir un dialogue public significatif qui aide à exprimer un cadre moral basé sur des valeurs pour considérer comment nous voulons un discours civique. Pour fonctionner. Il s’agit d’une déclaration publique qui est ensuite appliquée et codifiée dans la réglementation – mais il ne s’agit pas seulement du président Biden qui me dit ce que je dois croire parce que je ne le veux pas non plus.

Plus tôt ce mois-ci, la sénatrice Amy Klobuchar a dévoilé une législation visant à mettre à jour les lois antitrust, à habiliter les organismes de réglementation et à permettre une plus grande concurrence aux grandes technologies. La nécessité de confronter et de vérifier le pouvoir d’entreprises telles que Facebook et Google est un domaine rare d’accord bipartisan. Slaby pense que c’est essentiel.

«Ce n’est pas seulement une question de puissance et de contrôle, c’est aussi une question d’innovation», a-t-il déclaré. «Nous vivons dans un monde où la créativité et l’innovation sont considérablement réduites en raison du poids et de la puissance de ces deux gorilles.»

Les théories du complot ne sont pas nouvelles, mais elles ont été suralimentées par les médias sociaux avec le mouvement antisémite QAnon, identifié par le FBI comme une menace terroriste intérieure potentielle, parmi les exemples les plus notoires. Les acolytes de QAnon étaient visibles lors des rassemblements électoraux de Trump et de l’émeute du Capitole américain. Mais Slaby met en garde contre toute diabolisation radicale.

«Je ne pense pas que nous puissions peindre comme tout le mouvement et quiconque a déjà été« curieux de QAnon »avec le même pinceau. Ces gens recherchent quelque chose et nous devons être honnêtes sur ce qu’ils recherchent.

«Et au fait, qu’est-ce qu’ils n’obtiennent pas d’autres dirigeants ou d’autres institutions politiques ou d’autres institutions culturelles, civiques ou sociales pour y arriver? Comment échouons-nous à offrir aux gens un sentiment d’appartenance et de sécurité qui les laisse en quête et susceptibles d’être exploités et induits en erreur? »

L’un des plus grands défis de Biden est de savoir comment combler le fossé et atteindre les millions de personnes qui ont acheté les mensonges électoraux de Trump ou QAnon ou d’autres théories du complot. Slaby, maintenant stratège en chef des Harmony Labs à but non lucratif, a suggéré: «Cela commence par ne pas les qualifier de stupides. Vous ne pouvez pas commencer par «vous êtes fou et stupide», puis dire. «Mais nous voulons être amis. Cela ne fonctionnera tout simplement pas.

«Je suis d’accord avec la réalité que vous entendez à gauche de« Nous ne voulons pas nous unir à la suprématie blanche ». C’est pourquoi je dis que nous devons appeler un extrémisme authentique, mais appeler les gens qui se retrouvent pris dans quelque chose qu’ils ne comprenaient pas ou dont ils ne voulaient pas faire partie.

«Cette distinction est difficile, mais en fin de compte pour l’administration Biden et la gauche plus largement, il ne s’agit pas de se disputer sur QAnon, mais d’articuler une vision de l’avenir qui donne aux gens ce sentiment d’appartenance et de sécurité et résout ce problème de sans avenir, les gens une raison de faire partie de quelque chose d’autre.