Dans un récent Enquête sur les nouvelles de la BBC, une journaliste se faisant passer pour une jeune fille de 13 ans dans une application de réalité virtuelle (VR) a été exposée à du contenu sexuel, des insultes racistes et une menace de viol. L’application en question, VRChat, est une plate-forme interactive où les utilisateurs peuvent créer des « pièces » dans lesquelles les gens interagissent (sous la forme d’avatars). Le journaliste a vu des avatars simulant le sexe et a été proposé par de nombreux hommes.
Les résultats de cette enquête ont conduit à des avertissements d’organisations caritatives pour la sécurité des enfants, notamment la Société nationale pour la prévention de la cruauté envers les enfants (NSPCC), sur les dangers auxquels les enfants sont confrontés dans le métaverse. le métaverse fait référence à un réseau de mondes VR que Meta (anciennement Facebook) a positionné comme une future version d’Internet, nous permettant à terme de nous engager dans des contextes éducatifs, professionnels et sociaux.
Le NSPCC semble rejeter le blâme et la responsabilité sur les entreprises technologiques, affirmant qu’elles doivent faire plus pour protéger la sécurité des enfants dans ces espaces en ligne. Bien que je convienne que les plates-formes pourraient faire plus, elles ne peuvent pas résoudre ce problème seules.
En lisant l’enquête de la BBC, j’ai ressenti un sentiment de déjà vu. J’ai été surpris que toute personne travaillant dans le domaine de la protection en ligne soit – pour reprendre les mots du NSPCC – « choqué” par les expériences du journaliste. Il y a dix ans, bien avant que nous n’entendions le mot « métaverse », des histoires similaires ont émergé autour de plates-formes telles que Club Pingouin et Hôtel Habbo.
Ces plates-formes basées sur des avatars, où les utilisateurs interagissent dans des espaces virtuels via une fonction de chat textuel, ont en fait été conçues pour les enfants. Dans les deux cas, des adultes se faisant passer pour des enfants afin d’enquêter ont été exposés à des interactions sexuellement explicites.
Les demandes pour que les entreprises fassent davantage pour prévenir ces incidents existent depuis longtemps. Nous sommes enfermés dans un cycle de nouvelles technologies, de risques émergents et de panique morale. Pourtant rien ne change.
Lire la suite: Le métaverse : trois problèmes juridiques auxquels nous devons répondre
C’est un domaine délicat
Nous avons vu des entreprises demander à mettre en place des mesures de vérification de l’âge pour empêcher les jeunes d’accéder à des services inappropriés. Cela a inclus des propositions de plateformes sociales pour exiger la vérification que l’utilisateur est âgé de 13 ans ou plus, ou pour sites pornographiques exiger une preuve que l’utilisateur a plus de 18 ans.
Si la vérification de l’âge était facile, elle aurait été largement adoptée à ce jour. Si quelqu’un peut penser à un moyen permettant à tous les jeunes de 13 ans de prouver leur âge en ligne de manière fiable, sans problème de confidentialité des données, et d’une manière facile à mettre en œuvre pour les plates-formes, de nombreuses entreprises technologiques aimeraient leur parler.
En termes de contrôle de la communication qui se produit sur ces plates-formes, de même, cela ne sera pas réalisé via un algorithme. L’intelligence artificielle est loin d’être assez intelligente pour intercepter des flux audio en temps réel et déterminer, avec précision, si quelqu’un est offensant. Et bien qu’il puisse y avoir une certaine marge de manœuvre pour la modération humaine, la surveillance de tous les espaces en ligne en temps réel serait incroyablement gourmande en ressources.
La réalité est que les plateformes fournissent déjà de nombreux outils pour lutter contre le harcèlement et les abus. Le problème est quelques personnes en sont conscients, croient qu’ils fonctionneront ou veulent les utiliser. VRChat, par exemple, fournit des outils pour bloquer les utilisateurs abusifs et les moyens de signalez-lesce qui peut entraîner la suppression du compte de l’utilisateur.
Nous ne pouvons pas tous nous asseoir et crier : « mon enfant a été contrarié par quelque chose en ligne, qui va empêcher que cela se produise ? ». Nous devons déplacer notre attention de la notion de « grande technologie maléfique », qui n’est vraiment pas utile, pour examiner le rôle que d’autres parties prenantes pourraient également jouer.
Si les parents achètent des casques VR à leurs enfants, ils doivent jeter un œil aux caractéristiques de sécurité. Il est souvent possible de surveiller l’activité en demandant au jeune de diffuser ce qui se trouve sur son casque sur le téléviseur familial ou sur un autre écran. Les parents pourraient également consulter les applications et les jeux avec lesquels les jeunes interagissent avant de permettre à leurs enfants de les utiliser.
Ce que pensent les jeunes
J’ai passé les deux dernières décennies à faire des recherches sur la protection en ligne – à discuter des préoccupations concernant les méfaits en ligne avec les jeunes et à travailler avec diverses parties prenantes sur la manière dont nous pourrions mieux aider les jeunes. J’entends rarement les jeunes eux-mêmes demander au gouvernement de mettre les grandes entreprises de technologie au pas.
Cependant, ils demandent régulièrement une meilleure éducation et un meilleur soutien des adultes pour lutter contre les dommages potentiels en ligne auxquels ils pourraient être confrontés. Par exemple, les jeunes dites-nous ils veulent échanger en classe avec des enseignants avertis, capables de gérer les débats qui se présentent et à qui ils peuvent poser des questions sans qu’on leur dise « ne posez pas de questions comme ça ».
Lire la suite: Comment protéger les enfants en ligne sans utiliser de règles strictes et de réprimandes
Cependant, sans coordination nationale, je peux sympathiser avec tout enseignant qui ne souhaite pas risquer de se plaindre, par exemple, de parents indignés, suite à la tenue d’une discussion sur des sujets aussi sensibles.
Je note que le gouvernement britannique Facture de sécurité en lignela législation qui, selon les décideurs politiques, empêchera les dommages en ligne, ne contient que deux mentions du mot « éducation » sur 145 pages.
Nous avons tous un rôle à jouer pour aider les jeunes à naviguer dans les espaces en ligne. La prévention a été le message clé pendant 15 ans, mais cette approche ne fonctionne pas. Les jeunes réclament une éducation dispensée par des personnes qui comprennent les enjeux. Ce n’est pas quelque chose qui peut être réalisé par les plates-formes seules.
Cet article est paru pour la première fois sur La conversation.
