Préoccupée par ce que ses enfants pourraient voir dans des films ultra-populaires et controversés plateforme de création de jeux Roblox (s’ouvre dans un nouvel onglet), un parent a décidé de jeter un coup d’œil par elle-même. Elle a passé six heures à jouer aux jeux destinés aux enfants de 5 ans, avant de supprimer sans tarder les comptes de ses enfants.
Vélociraptor de Carolyn (s’ouvre dans un nouvel onglet)le compte Twitter d’un vétéran de l’industrie du jeu qui a travaillé chez Bethesda, Ubisoft et BioWare, dit que l’idée est née d’une curiosité pour les aspects les plus sombres de la monétisation des enfants et de la façon dont les jeux de service ciblent un si jeune public, mais elle ne s’y attendait pas pour trouver ce qu’elle a fait : “trucs bizarres de pédo et jeux de voyeur dans la salle de bain et idéalisation suicidaire”.
Roblox a différentes classifications d’âge qui affectent les comptes qui peuvent voir un contenu donné, l’idée étant que les autorisations sur le compte Roblox d’un enfant sont définies par un parent ou un adulte responsable. Les créateurs de contenu remplissent un questionnaire pour appliquer ces notes à tout ce qu’ils ont fait. Ainsi, même si les critères sont définis par Roblox Corp, il ne s’agit pas d’expériences créées manuellement par les joueurs, ce qui est à la fois une échappatoire et un problème inné pour une plate-forme de cette taille. Peu de grandes entreprises technologiques vont le dire, mais la pré-modération manuelle à cette échelle n’est pas quelque chose dans laquelle elles veulent investir (ou considérer comme pratique), et donc la « solution » est de s’appuyer sur la communauté et de modérer sur la base de rapports. .
Le thème le plus troublant rencontré par Carolyn est un sous-genre de jeux de salle de bain.
Si vous avez déjà joué à une expérience de jeu de rôle Roblox (ou à n’importe quel jeu de rôle), vous savez probablement qu’il est très facile de contourner la modération et les filtres pour jouer des scénarios sexuels (Royale High est probablement le pire délinquant ici) Mais le pire que j’ai trouvé était le des dizaines de jeux de salle de bain. pic.twitter.com/oWdhraTWMZ4 janvier 2023
“Vous utilisez les toilettes”, écrit Carolyn. “Le vêtement du bas de votre personnage disparaît souvent. La porte reste ouverte et les autres joueurs vous regardent. Les toilettes deviennent jaunes/marron”.
En tant que parent, il n’est pas surprenant que les jeunes enfants soient fascinés par les toilettes et les fonctions corporelles. Mais l’un des domaines les plus flous en matière de modération est celui des expériences de jeu de rôle, et malheureusement, c’est ce que ces jeux de salle de bain semblent vraiment être.
“Dans plusieurs de ces jeux, il y a une zone qui force votre personnage à se mettre en position inclinée (en “glissant sur l’eau” ou en se faisant renverser par d’autres joueurs)”, écrit Carolyn. “Et dans certains cas, vous rencontrez un problème / restez coincé là-bas”.
Lorsque cela se produit, et Carolyn propose deux vidéos le montrant, les joueurs commencent à déplacer leurs avatars dans un mouvement de va-et-vient au bas des jambes de l’avatar couché. Cela semble être une tentative claire de représenter le sexe entre deux avatars, et une que plusieurs joueurs répètent à travers les vidéos.
Ce n’était pas qu’un seul joueur. Ce qui me fait me demander s’il s’agit d’une fonctionnalité, pas d’un bug. J’ai joué à ce jeu de salle de bain en particulier pendant moins de vingt minutes. (CW pour plus de Roblox non con) pic.twitter.com/vHHbzYFhvE4 janvier 2023
Carolyn choisit d’autres exemples de ce “facteur de fluage”, y compris un jeu de salle de bain dans lequel les utilisateurs peuvent se piéger dans des cabines et prendre des photos. Et les jeux de salle de bain ne sont qu’un volet de ce problème : Survivre à Pepa [sic] Porcin (s’ouvre dans un nouvel onglet) est apparemment pour tous les âges, avec une image d’en-tête cauchemardesque d’un papa cochon ensanglanté ayant été poignardé dans l’intestin (les jeux de survie Peppa Pig sont leur propre genre sur Roblox).
Les jeux de salle de bain sont un parfait exemple de la raison pour laquelle les enfants et le contenu généré par les utilisateurs peuvent être un si mauvais mélange, et les frontières peuvent devenir si floues. En théorie, aurais-je un problème avec l’un de mes enfants jouant à un jeu vidéo stupide où le personnage pourrait faire pipi et caca ? Non. Mais dès que vous voyez les exemples de ce qui se passe dans les jeux de salle de bain Roblox, il est clair que c’est du carburant cauchemardesque et non quelque chose que les enfants devraient voir.
“Je me demandais pourquoi Roblox approuverait soudainement des milliers de jeux (en particulier des jeux NSFW comme les mondes RP) pour les enfants de 8 ans et moins”, écrit Carolyn, et fait référence à certains des reportages sur Exploitation par Roblox Corp des développeurs sur la plateforme (s’ouvre dans un nouvel onglet). “Alors que de plus en plus de parents ont commencé à utiliser les paramètres de restriction liés à l’âge, cela crée un problème : moins de joueurs actifs s’engagent dans les expériences les plus rentables de la plate-forme (qu’il est impossible de sécuriser réellement pour les enfants). Apparemment, ils s’en fichent complètement” .
J’ai contacté Roblox Corp pour un commentaire et je le mettrai à jour avec toute réponse.
J’ai également contacté Carolyn Velociraptor sur Twitter, qui, depuis que ses observations sont devenues virales, a dû faire face à des réactions négatives de la part d’éléments du fandom Roblox.
“Une chose que je dois clarifier à partir de mon fil (après avoir parlé avec plusieurs développeurs Roblox) est que la façon dont Roblox a adopté le contrôle parental a changé”, écrit Carolyn, “il y a plusieurs mois, les comptes restreints n’étaient autorisés qu’à une liste de jeux sélectionnés manuellement par Roblox (principalement des magnats, des simulateurs de construction, peu d’expériences RP). Tout a changé lorsque Roblox a décidé de confier la responsabilité aux développeurs, en leur faisant remplir un sondage pour déterminer l’âge de leur jeu, puis en utilisant ces notes pour le nouveau parent. Système de contrôle.
“Certains développeurs semblent s’être sentis obligés de répondre à l’enquête d’une manière qui leur permettrait d’obtenir la note pour tous les âges, car le blocage de l’âge verrouille une partie importante de la base d’utilisateurs de Roblox”.
Il est donc indiscutablement dans l’intérêt des développeurs d’essayer d’éviter ces restrictions, simplement parce que si vous n’obtenez pas cette note “tous âges”, votre audience est sévèrement limitée. La plus grande préoccupation est le changement lui-même, qui semble suggérer que Roblox a plus ou moins (selon les mots de Carolyn) “intentionnellement déchargé une certaine responsabilité”.
C’est plus important que les salles de bains. Il existe une position d’avocat du diable pour Roblox qui concerne l’ampleur de la plate-forme et la nature apparemment insurmontable du problème à cause de cela. Mais l’échelle va dans les deux sens, et Roblox Corp gagne énormément d’argent (le chiffre d’affaires de l’entreprise en décembre 22 se situait entre 430 et 439 millions de dollars (s’ouvre dans un nouvel onglet)avec 61,5 millions d’utilisateurs quotidiens, et ses parts sont en hausse de 30 % d’une année sur l’autre).
Si vous gagnez autant d’argent avec un public qui peut être si jeune, alors il faut répondre aux questions de responsabilité et d’éthique des affaires. Roblox Corp n’a pas tendance à s’engager publiquement dans les critiques, préférant plutôt publier des mises à jour des investisseurs, limiter les entretiens au minimum et compter la pâte. Alors que les régulateurs regardent avec méfiance la façon dont les grandes entreprises technologiques protègent les enfants, et le Royaume-Uni menace même d’emprisonner les patrons qui ne le font pas assez bien (s’ouvre dans un nouvel onglet)cette posture peut devenir intenable.