Metaverse, ton univers impitoyable

Commentaires à caractère sexuel, homophobe ou raciste, théories du complot, armes à feu, harcèlement sexuel et même agressions… Le metaverse rêvé par Mark Zuckerberg, cet espace fun, d’échanges et de collaborations, est bien loin de ce qu’il s’y passe réellement. Cet univers virtuel est encore en phase bêta et disponible uniquement aux États-Unis et au Canada pour l’heure. Encore en test mais déjà toxique. C’est en tout cas le bilan très sombre que dresse l’ONG SumOfUs, véritable contre-pouvoir des grandes entreprises.

Dans une étude dévoilée fin mai 2022 et baptisée « Metaverse : another cesspool of toxic content » (Metaverse, un autre cloaque de contenu toxique), SumOfUs souligne les débuts chaotiques du monde virtuel de Meta/Facebook. Un metaverse dans lequel, pourtant, quelque 10 milliards de dollars auraient été investis indirectement, via la branche Facebook Reality Labs. « Avec seulement 300 000 utilisateurs, il est remarquable de voir à quelle vitesse Horizon Worlds est devenu un terrain fertile pour des contenus nocifs. Sans action urgente, cela ne fera qu’empirer. […] A ce rythme, il est tout à fait possible que le metaverse se transforme en un environnement encore plus sombre et plus toxique. »

Agressée sexuellement moins d’une heure après son arrivée dans le metaverse

Le témoignage le plus frappant de ce rapport est sans nul doute celui d’une des chercheuses de SumOfUs. S’étant inscrite depuis moins d’une heure dans Horizon Worlds, elle a été conviée à une soirée privée où elle a été « agressée sexuellement » par un autre utilisateur du metaverse. Quelques instants avant, ses nouveaux « amis » lui avait conseillé de désactiver sa frontière personnelle. C’est une fonctionnalité déployée par Meta en février dernier qui vise, justement, à lutter contre le harcèlement sexuel.

Juste après son arrivée dans une pièce située à l’écart, un personnage masculin ne cessait de se frotter à elle par derrière. Il la pressait de « se tourner pour qu’il puisse le faire par derrière ». Pendant ce temps, d’autres avatars observaient ce qui se passait à travers la fenêtre. Et qu’un personnage, également présent dans la pièce, regardait et distribuait de la vodka virtuelle. SumOfUs a dévoilé une vidéo de l’incident, filmée pendant 28 secondes du point de vue de la chercheuse. On peut y voir ces comportements problématiques et entendre des commentaires obscènes.

Une agression virtuelle avec des répercussions bien réelles

Cette « agression sexuelle virtuelle » reste toute relative dans la mesure où les avatars dans Horizon Worlds ne possèdent pas de corps en dessous de la ceinture. Toujours est-il que l’acte était clairement sexuel, non consenti. La chercheuse – qui s’était inscrite dans le metaverse pour étudier les comportements sociaux – a décrit l’expérience comme « déconcertante et déroutante ». « Cela compte malgré tout, cela a quand même de vraies répercussions sur les utilisateurs« , a expliqué Vicky Wyatt, directrice de SumOfUs, à la BBC.

Des répercussions d’autant plus réelles que la chercheuse agressée précise que, lorsqu’on désactive sa bulle de protection personnelle, quand un avatar vous touche, les manettes associées au casque de réalité virtuelle vibrent. Cela crée donc l’effet d’une véritable agression qui peut désorienter du fait de l’expérience physique vécue pendant l’agression virtuelle. « C’est arrivé si vite que j’ai fait une sorte de dissociation. « Une partie de mon cerveau se demandait ce qu’il se passait, a expliqué la chercheuse. Une autre partie me disait que ce n’était pas un vrai corps. Et encore une autre que c’était important pour mes recherches »

Horizon Worlds : tous les dérapages sont permis

Ce n’est pas la première fois que des femmes signalent une agression sexuelle dans le monde virtuel de Meta. En 2021, Nina Jane Patel, psychothérapeute et chercheuse, a déclaré avoir été, elle aussi, agressée sexuellement sur Horizon Worlds. Elle avait affirmé avoir été « virtuellement violée collectivement » par un groupe de 3-4 avatars moins de 60 secondes après s’être connectée au metaverse. Elle a témoigné avoir été « attrapée agressivement » et « agressée verbalement et sexuellement », devenant la cible de propos suggestifs et de remarques obscènes en raison de la simple apparence féminine de son avatar. D’autres personnes ont également fait état de comportements déplacés et d’agressions sexuelles virtuelles assez similaires.

En outre, les agressions sexuelles virtuelles ne sont pas les seuls problèmes auxquels le metaverse doit faire face. SumOfUs signale dans son rapport que de nombreux commentaires problématiques ont été constatés par leurs chercheurs et chercheuses. Dans les « salles privées » d’Horizon World, il semble assez commun de constater :

• Des propos homophobes, racistes et sexistes
• De la violence par arme à feu
• Des arguments complotistes (fraude aux élections américaines, arguments anti-vaccins, etc.)
• Des tentatives de ventes de produits illégaux (médicaments, drogues, etc.)

Modération dans le metaverse : mission impossible ?

Et visiblement le système de modération du metaverse de Meta semble défaillants. Dans la grande majorité des cas où les comportements déplacés ont été signalés, les modérateurs du système ont fini par débouter les plaintifs, arguant que le règlement n’avait pas été enfreint. Les mêmes problèmes de modération que Facebook connaît semblent donc se répéter dans le Horizon Worlds.

« Au lieu d’apprendre de ses erreurs, Meta avance dans le metaverse sans plan clair pour réduire les contenus et comportements préjudiciables, la désinformation et les discours de haine », peut-on lire dans le rapport de l’ONG SumOfUs. Andrew Bosworth, Chief Tech Officer de Meta, a admis dans un mémo interne que la modération dans le métaverse « à tout échelle significative est pratiquement impossible. »

Entre le rêve de Mark Zuckerberg – « Le rêve de se sentir présent avec les gens qui nous sont chers » – et la réalité, même virtuelle, le fossé est déjà grand. Il va falloir trouver, vite, des garde-fous pour éviter de voir émerger un Web3 sans foi ni loi. Une nouvelle « conquête de l’ouest », l’Eldorado en moins.

SOUTENEZ WE DEMAIN, SOUTENEZ UNE RÉDACTION INDÉPENDANTE
Inscrivez-vous à notre newsletter hebdomadaire
et abonnez-vous à notre magazine.