Peut-on créer un métaverse moral ? | Le métaverse

PLa psychothérapeute Nina Jane Patel était sur Horizon Venues de Facebook depuis moins d’une minute lorsque son avatar a été harcelé par un groupe d’hommes. Les attaquants ont procédé à un « viol collectif virtuel » de son personnage, prenant des photos dans le jeu comme souvenirs. Patel s’est figée sous le choc avant d’essayer désespérément de libérer son moi virtuel – qu’elle avait coiffé pour ressembler à ses cheveux blonds, ses taches de rousseur et sa tenue décontractée d’affaires.

« Ne prétendez pas que vous n’aimiez pas ça », se moquaient les voix humaines des agresseurs dans son casque alors qu’elle s’enfuyait, « allez vous frotter à la photo. »

Le métaverse – le terme vaguement défini pour la prochaine génération de technologies de réalité virtuelle immersive – en est encore à ses balbutiements. Mais même avec des graphismes grossiers et un gameplay parfois glitch, une expérience comme celle-ci peut déclencher une réaction de panique profondément enracinée. « La fidélité est telle que cela semblait très réel », a déclaré Patel, qui est également co-fondatrice de la société de métaverse pour enfants Kabuni. Observateur. « Physiologiquement, j’ai répondu dans ce mode combat ou fuite ou gel. »

Les rapports émergents dépeignent un métaverse plus proche des salons de discussion anarchiques qui dominaient les débuts d’Internet que des jardins numériques modérés et élagués de manière algorithmique que nous occupons principalement aujourd’hui. Un récent Channel 4 Dépêches l’enquête a documenté des métavers remplis de discours de haine, de harcèlement sexuel, de pédophilie et d’avatars simulant le sexe dans des espaces accessibles aux enfants.

Les recherches antérieures au battage médiatique du métaverse révèlent que ces expériences sont loin d’être rares. Une étude réalisée en 2018 par l’agence de recherche en réalité virtuelle The Extended Mind a révélé que 36 % des hommes et 49 % des femmes qui utilisaient régulièrement les technologies de réalité virtuelle ont déclaré avoir été victimes de harcèlement sexuel.

Facebook, qui a changé son nom en Meta l’année dernière pour signaler son investissement dans cet espace, a annoncé sa décision d’introduire une fonctionnalité de « limite personnelle » dans ses produits métavers peu de temps après que l’expérience de Patel ait fait la une des journaux. Il s’agit d’une fonction de distance sociale virtuelle que les personnages peuvent déclencher pour garder les autres à distance, comme un champ de force.

« Nous voulons que tous ceux qui utilisent nos produits aient une bonne expérience et trouvent facilement les outils qui peuvent aider dans de telles situations, afin que nous puissions enquêter et prendre des mesures », a déclaré Bill Stillwell, chef de produit, Intégrité VR chez Meta.

Le pitch métaverse dit qu’un jour nous interagirons avec Internet principalement via un casque de réalité virtuelle, où des environnements 3D au rendu net et convaincant brouilleront les frontières des mondes physique et virtuel. Les concerts virtuels et les défilés de mode ont déjà attiré des foules de participants numériques, et les marques et les célébrités achètent des parcelles de terrain dans le métaverse, avec des ventes uniques atteignant des millions de dollars – suscitant des inquiétudes concernant une bulle immobilière métaverse.

Les entreprises technologiques s’efforcent de faire en sorte qu’un jour, ces mondes soient aussi réels que possible. Facebook a annoncé en novembre dernier qu’il développait un gant vibrant haptique pour aider à imiter la sensation de manipuler des objets ; La startup espagnole OWO a créé une veste dotée de capteurs pour permettre aux utilisateurs de ressentir des câlins et des coups de feu dans le jeu ; et la société de technologie japonaise H2L travaille sur la simulation de la douleur dans le métaverse, y compris la sensation d’un oiseau qui vous picore le bras.

Des milliards de dollars se déversent dans l’espace. Outre Meta, Microsoft, qui vend ses casques HoloLens à réalité mixte, travaille sur des logiciels liés au métaverse, tandis qu’Apple développe un casque de réalité augmentée. Les sociétés de jeux vidéo telles que Roblox et Epic Games, et les métavers décentralisés basés sur la blockchain tels que Sandbox, Decentraland et Upland souhaitent également saisir une tranche de l’avenir. La banque d’investissement de CitiGroup prévoit que l’économie du métaverse atteindra 13 milliards de dollars d’ici 2030.

L’Internet ordinaire est en proie au harcèlement, aux discours de haine et aux contenus illégaux – et comme les premiers rapports l’indiquent clairement, rien de tout cela ne disparaîtra dans le métaverse. « S’il est possible de faire quelque chose, quelqu’un le fera », déclare Lucy Sparrow, doctorante en informatique et systèmes d’information à l’Université de Melbourne, qui a étudié la moralité dans les jeux vidéo multijoueurs. « Les gens peuvent vraiment être très créatifs dans la façon dont ils utilisent ou abusent de la technologie. »

Le métaverse pourrait en fait amplifier certains de ces méfaits. David J Chalmers est professeur de philosophie et de sciences neurales à l’Université de New York et auteur de Reality+… Les mondes virtuels et les problèmes de la philosophie. Selon lui, le « harcèlement corporel » dirigé contre un avatar est généralement vécu comme plus traumatisant que le harcèlement verbal sur les plateformes de réseaux sociaux traditionnels. « Que incarné version de la réalité sociale la rend beaucoup plus proche de la réalité physique », dit-il.

Avec ce nouveau monde courageux émergent des questions éthiques, juridiques et philosophiques. Comment l’environnement réglementaire doit-il évoluer pour faire face au métaverse ? Les plates-formes métavers peuvent-elles s’appuyer sur les protocoles de sécurité de leurs prédécesseurs, ou des approches entièrement nouvelles sont-elles justifiées ? Et les punitions virtuelles suffiront-elles à dissuader les mauvais acteurs ?

Passer d’une plate-forme de médias sociaux telle que Facebook au métaverse signifie passer de la modération teneur modérer comportement. Faire ce dernier « à une échelle significative est pratiquement impossible », a admis le directeur de la technologie de Facebook, Andrew Bosworth, dans une note interne divulguée en novembre dernier.

La note de Bosworth suggérait que les mauvais acteurs expulsés du métaverse pourraient être bloqués sur toutes les plateformes appartenant à Facebook, même s’ils utilisaient plusieurs avatars virtuels. Mais pour être vraiment efficace, cette approche reposerait sur des comptes nécessitant la mise en place d’une pièce d’identité.

Facebook a déclaré l’année dernière qu’il étudiait comment appliquer la modération de l’IA au métaverse, mais n’a encore rien construit. La modération automatisée du contenu est utilisée par les plateformes de médias sociaux existantes pour aider à gérer de grandes quantités d’utilisateurs et de matériel, mais souffre toujours de faux positifs – principalement en raison d’une incapacité à comprendre le contexte – ainsi qu’à l’incapacité de détecter le contenu qui enfreint véritablement les politiques.

« L’IA n’est toujours pas assez intelligente pour intercepter des flux audio en temps réel et déterminer, avec précision, si quelqu’un est offensant », fait valoir le professeur de droits numériques à l’université de Bournemouth, Andy Phippen. « Et bien qu’il puisse y avoir une certaine marge de manœuvre pour la modération humaine, la surveillance de tous les espaces en ligne en temps réel serait incroyablement gourmande en ressources. »

Il existe quelques exemples de cas où la criminalité dans le monde numérique a entraîné une punition dans le monde réel. En 2012, la Cour suprême néerlandaise a statué sur une affaire de vol d’une amulette et d’une épée numériques dans le jeu multijoueur en ligne Runescape. Deux joueurs qui en ont volé un autre sous la menace d’un couteau ont été condamnés à des travaux d’intérêt général dans le monde réel, le juge déclarant que même si les objets volés n’avaient aucune valeur matérielle, leur valeur découlait du temps et des efforts consacrés à les obtenir.

Juger les transgressions numériques dans des tribunaux réels ne semble pas exactement évolutif, mais les experts juridiques estiment que si le métaverse devient aussi important que le disent les PDG de la technologie, nous pourrions de plus en plus voir des cadres juridiques du monde réel appliqués à ces espaces. Pin Lean Lau, maître de conférences en droit biologique à l’Université Brunel de Londres, affirme que bien que de nouveaux défis juridiques puissent émerger dans le métaverse, par exemple des questions sur « la personnalité juridique de l’avatar, ou la propriété d’un bien virtuel et si cela pourrait être utilisé comme garantie pour les prêts… nous n’aurons peut-être pas complètement besoin de réinventer la roue.

Cependant, certains espèrent que le métaverse pourrait offrir une opportunité d’aller au-delà du modèle d’application réactive qui domine la culture actuelle des espaces sociaux en ligne. Sparrow, pour sa part, désapprouve l’accent mis actuellement par les entreprises du métaverse sur la responsabilité individuelle, où c’est la victime qui doit déclencher une réponse de sécurité face à une attaque. Au lieu de cela, demande-t-elle, « comment pouvons-nous être proactifs dans la création d’un environnement communautaire qui favorise des échanges plus positifs? »

Personne ne veut vivre dans un État policier virtuel, et il y a un sentiment croissant que l’application devrait être contrebalancée par la promotion d’un comportement prosocial. Certaines suggestions avancées par l’organisme industriel XR Association, qui comprend Google, Microsoft, Oculus, Vive et Sony Interactive Entertainment, incluent la récompense de l’altruisme et de l’empathie et la célébration d’un comportement collectif positif.

Le co-fondateur de la société de recherche sur les jeux Quantic Foundry, Nick Yee, a mis en avant l’exemple du jeu multijoueur EverQuest, où les joueurs décédés dans le jeu ont été contraints de retourner sur le lieu de leur mort et de récupérer leurs effets personnels. Yee soutient que cette caractéristique de conception a contribué à encourager un comportement altruiste, car les joueurs devaient solliciter l’aide d’autres joueurs pour récupérer les objets, contribuant ainsi à favoriser la camaraderie et à promouvoir des interactions positives.

Patel préconise de regarder au-delà des mécanismes d’application lors de la réflexion sur la façon de réglementer le métaverse. Elle propose d’examiner le comportement nuisible de certaines personnes dans les environnements numériques et d’être « curieuse de savoir ce qui les pousse à se comporter ainsi ».

Le modèle de gouvernance descendante des plates-formes de médias sociaux actuelles pourrait également être bouleversé si les plates-formes décentralisées continuent de jouer un rôle dans l’écosystème du métaverse. De tels modèles ont déjà été essayés. La plate-forme de forum en ligne Reddit, par exemple, s’appuie en partie sur des modérateurs communautaires pour contrôler les groupes de discussion. Un des premiers jeux multijoueurs pour enfants, propriété de Disney Club Pingouina été le pionnier d’un réseau gamifié d’informateurs « agents secrets », qui surveillaient les autres joueurs.

Un article de 2019 rédigé par des chercheurs travaillant avec Oculus VR, propriété de Facebook, indique que la société explore des initiatives de modération communautaires dans ses applications VR comme moyen de contrer les problèmes de gouvernance descendante.

À bien des égards, les solutions proposées par les entreprises technologiques pour lutter contre les méfaits du métaverse font écho aux stratégies inadéquates qu’elles ont employées sur Internet – et pourraient être décrites comme une incitation à éviter la réglementation.

Cependant, certaines des nouvelles lois promulguées pour tempérer les médias sociaux pourraient bien s’appliquer au métaverse. La législation gouvernementale telle que la loi sur les services numériques récemment déployée par l’UE – qui impose des sanctions sévères aux entreprises de médias sociaux si elles ne suppriment pas rapidement les contenus illégaux – et le projet de loi britannique sur les dommages en ligne, toujours en incubation, pourrait jouer un rôle dans l’élaboration de normes de sécurité. dans le métaverse. Les entreprises de métaverse de Facebook tombent déjà sous le coup des régulateurs en matière de sécurité. Plus tôt cette année, le chien de garde des données du Royaume-Uni, le Bureau du commissaire à l’information, a demandé des pourparlers avec Facebook au sujet de l’absence de contrôle parental sur son populaire casque de réalité virtuelle Oculus Quest 2.

Mais il reste des questions juridiques non résolues sur la façon de régir les organismes virtuels qui vont au-delà de la portée du Web actuel – comme la façon dont les règles relatives à la juridiction nationale s’appliquent à un monde virtuel, et si un avatar pourrait un jour obtenir le statut juridique nécessaire pour cela. être poursuivi. La nature hautement spéculative de l’espace en ce moment signifie que ces questions sont loin d’être résolues.

« À court terme, je soupçonne que les lois du métaverse vont dans l’ensemble dériver des lois des pays physiques », déclare Chalmers. Mais à long terme, « il est possible que les mondes virtuels deviennent davantage des sociétés autonomes à part entière, avec leurs propres principes ».