Le métaverse de Mark Zuckerberg ouvre un nouveau monde de chaos de modération de contenu
Au revoir Facebook, bonjour… Meta ?
Le 28 octobre, le PDG de Facebook, Mark Zuckerberg annoncé qu’il changeait le nom de son entreprise pour refléter le changement d’orientation de Facebook d’une entreprise de médias sociaux centrée sur un produit, Facebook, à une qui « reflète toute l’étendue de ce que nous faisons ». Meta sera construit autour du « métaverse », l’image de marque de Facebook pour une suite de fonctionnalités de réalité virtuelle et augmentée.
Zuckerberg a sincèrement assuré au public que ces nouvelles fonctionnalités « nécessiteront de nouvelles formes de gouvernance ». Pour quiconque a prêté attention aux échecs catastrophiques de certaines des expériences existantes de Facebook en matière de gouvernance de plate-forme, cela devrait suffire à inquiéter. Le métavers pourrait non seulement recréer ces problèmes et les étendre à un nouvel environnement. Cela pourrait les rendre bien pires.
Le timing de l’annonce de Faceb—euh, Meta’s—est en soi frappant. La société a connu quelques mois difficiles avec le flot de reportages sur les échecs de Facebook à modérer adéquatement sa plateforme, produits sur la base de documents divulgués par une dénonciatrice de Facebook et de son témoignage devant le Congrès. Ainsi, bien que le pivot de Facebook vers le métaverse ait été long à venir, le changement de nom ressemble en partie à un effort pour changer de sujet.
Le métaverse tel que Zuckerberg l’a présenté dans sa vidéo promotionnelle, avec des graphismes épurés et des utilisateurs se rendant virtuellement dans des concerts à l’autre bout du monde, est loin du produit tel qu’il existe actuellement. En conséquence, certains commentateurs ont critiqué La conception de Facebook du métaverse en tant que « vaporware » : la pratique bien trop courante dans l’industrie technologique consistant à faire la promotion d’un produit qui ne se concrétise jamais. Mais en tant que journaliste technologique Casey Newton argumente, ce scepticisme est peut-être déplacé. Facebook investit des dizaines de milliards de dollars dans le métaverse, tout comme d’autres entreprises technologiques de premier plan, des géants établis comme Microsoft et Apple aux développeurs de jeux très populaires comme Fortnite et Roblox, dont les deux derniers sont discutablement déjà loin de la vision de Zuckerberg. Et une fois l’infrastructure de base du métaverse construite, les contributions des développeurs et des utilisateurs pourraient multiplier massivement sa portée et son impact d’une manière que ni Zuckerberg ni ses détracteurs ne peuvent imaginer aujourd’hui, de la même manière qu’autrefois, Apple autorisait les applications tierces sur l’iPhone. , les smartphones ont conquis le monde bien au-delà de l’initiale de Steve Jobs vision d’un lecteur de musique sur lequel vous pourriez passer des appels.
Le problème avec le métavers est que les mêmes qualités qui font de la réalité virtuelle une technologie potentiellement révolutionnaire en font également une technologie profondément dangereuse. Le métaverse – en particulier son utilisation de la réalité augmentée et virtuelle – prend les qualités immersives de l’Internet bidimensionnel et le fait passer à 11. (Si vous en doutez, faites un tour dans votre café VR local et essayez le dernier high -end casques VR ; vous comprendrez de manière viscérale pourquoi tant de gens considèrent cela comme une technologie révolutionnaire comparable à l’informatique personnelle et aux smartphones.) Cette technologie offre de réelles promesses, et pas seulement pour les consommateurs ordinaires à la recherche de divertissement. Imaginez, par exemple, comment des personnes handicapées ou des situations de la vie qui les empêchent de voyager pourraient accéder à des expériences qui n’auraient jamais été disponibles autrement.
Mais une immersion accrue signifie que tous les dangers actuels d’Internet seront agrandi. Les dispositifs de réalité virtuelle et augmentée relativement rudimentaires d’aujourd’hui démontrent déjà que les gens réagissent au métavers avec une réponse immédiate et émotionnelle similaire à ce qu’ils ressentiraient si cela leur arrivait dans le monde hors ligne. Si quelqu’un vous brandit un couteau virtuel au visage ou vous tripote dans le métavers, la terreur que vous ressentez n’est pas du tout virtuelle. Le cerveau des gens répondre de la même manière en se rappelant des souvenirs formés dans la réalité virtuelle et en se souvenant d’une expérience du monde « réel » ; de même, leurs corps réagir aux événements en réalité virtuelle comme ils le feraient dans le monde réel, avec des fréquences cardiaques accélérant dans des situations stressantes.
Cela peut être utile pour, par exemple, une thérapie et un traitement médical. Mais le même réalisme qui fait de la réalité virtuelle une aubaine potentielle pour patients souffrant de douleurs du membre fantôme pourrait également signifier que le harcèlement dans le métavers sera plus viscéral et donc plus nocif; la désinformation plus vive et donc plus convaincante ; des expériences quotidiennes plus envoûtantes et donc plus addictives. Même la question de savoir comment la publicité prendra forme en réalité virtuelle soulève des problèmes uniques de transparence. Cela ne signifie pas que les coûts du métavers ne seront pas compensés par ses avantages, mais plutôt, ses créateurs et ses administrateurs devront réfléchir soigneusement à la manière de minimiser ces coûts.
Malheureusement, rien dans l’histoire de Facebook ne suggère qu’il sera un bon intendant pour surmonter ces défis. Les « Fichiers Facebook » et le « Papiers Facebook», des tranches de reportages sur les documents publiés par Frances Haugen, la dénonciatrice de Facebook, décrivent une entreprise dont le produit est devenu si massif qu’il est peut-être devenu incontrôlable. Pour ne citer qu’un exemple, les documents montrent que la violence et le harcèlement s’accumulent dans régions du monde où Facebook n’a pas investi dans une modération de contenu adéquate dans les principales langues. Facebook a toujours été axé sur l’engagement à tout prix et sur la création d’une « communauté » aussi grande et mondiale que possible. Les dernières années ont clairement montré les inconvénients de cette approche, et le nouveau pivot de l’entreprise semble ne pas reconnaître ces avertissements. de Zuckerberg argumentaire de vente pour le rebranding Meta a suscité beaucoup d’enthousiasme quant aux possibilités de connexion humaine : « Ensemble, nous pouvons enfin mettre les gens au centre de notre technologie et offrir une expérience où nous sommes présents les uns avec les autres ! » il a annoncé. Mais est-ce nécessairement une bonne chose ?
Selon le Washington Post, la société « est rencontre avec des groupes de réflexion pour discuter de la création de normes et de protocoles pour le monde virtuel à venir. Et dans un bref échange (et maladroitement « impromptu ») avec Nick Clegg, l’ancien vice-Premier ministre anglais et actuellement chef de la politique mondiale de Facebook et fixateur politique polyvalent, Zuckerberg a fait de vagues références à « la conception pour la sécurité, la confidentialité et l’inclusion avant les produits existent même.
Bien que cela soit un soulagement d’entendre que Facebook réfléchit au moins à cela à l’avance, les Facebook Papers montrent comment, encore et encore, des employés attentionnés et dévoués de Facebook exhortent l’entreprise à ralentir et à réfléchir plus attentivement aux effets négatifs de ses produits et le leadership les ignore. Cela n’inspire pas confiance que les normes initialement proposées par Facebook pour le métaverse seront à la hauteur, ou que les dirigeants de l’entreprise seront ouverts à écouter les employés sur la façon de résoudre les nouveaux problèmes qui surviennent inévitablement dans la réalité virtuelle. En tant qu’Ethan Zuckerman écrit dans l’Atlantique, « Comment une entreprise qui ne peut bloquer que 6 % du contenu haineux en langue arabe gérera-t-elle un discours dangereux lorsqu’il est porté sur le t-shirt d’un avatar ou révélé à la fin d’un feu d’artifice virtuel ? »
Cela dépend beaucoup de détails sur le métavers qui sont encore inconnus. Par exemple, alors que Zuckerberg promet des « normes ouvertes » et « l’interopérabilité » – la possibilité pour les utilisateurs de déplacer leurs avatars et leurs actifs numériques de manière transparente dans et hors des régions contrôlées par Facebook du métaverse – la véritable décentralisation implique de surmonter des défis technologiques majeurs. Cela nécessite également de résister aux incitations au profit pour maintenir un jardin clos, un écosystème fermé sous le contrôle du fournisseur – ce qui était, après tout, l’une des innovations majeures de Facebook lors de son apparition sur l’internet décentralisé du milieu des années 2000.
Et même si Facebook soutient un métavers décentralisé, il exercera toujours une influence démesurée sur celui-ci, notamment en raison de la structure de propriété inhabituelle de Facebook (maintenant Meta) dans laquelle Zuckerberg les contrôles la majorité des actions avec droit de vote de la société et exerce donc un contrôle essentiellement dictatorial sur la société et ses produits. Que l’on pense qu’une modération de contenu plus ou moins ou simplement différente est nécessaire, le fait qu’une grande partie de la vie numérique des gens – et, si le métaverse réussit, « réelle » – soit contrôlée par une seule personne devrait provoquer un malaise majeur.
Le seul moyen pour le métavers de ne pas en faire un désastre est que Facebook le conçoive de manière à limiter l’engagement, à restreindre la viralité et, en général, à créer une plate-forme à plus grande échelle que Facebook lui-même. Mais si le métavers porte en lui la philosophie d’engagement à tout prix de Facebook – et jusqu’à présent, tout porte à croire que c’est le cas -, loin de résoudre les problèmes de Zuckerberg, il les aggravera infiniment.
—
Divulgation : Facebook fournit une assistance pour de Lawfare Série de papiers Digital Social Contract, dont Alan Rozenshtein est l’éditeur. Cet article ne fait pas partie de cette série, et Facebook n’a aucun rôle éditorial dans Droit.