Cette semaine, éclipsée par l’invasion de l’Ukraine par la Russie, Meta (anciennement Facebook) a dévoilé son plan ambitieux pour un « métaverse » propulsé par l’IA. Lors d’une présentation, le PDG Mark Zuckerberg a mis en lumière plusieurs des efforts connexes de l’entreprise, notamment un système d’IA qui permet aux utilisateurs de créer des mondes virtuels en les décrivant avec du texte et des projets internes pour créer un traducteur vocal universel et un assistant vocal qui répond à la voix, aux mouvements des yeux. , et le langage corporel.

Peu, voire aucune, des technologies d’IA présentées par Zuckerberg sont fondamentalement nouvelles. Les systèmes capables de générer des modèles 3D interactifs à partir de texte ont existait pour un jour, tout comme les systèmes capables de traduire directement la parole d’une langue à une autre – l’un des projets annoncés par Meta lors de sa conférence de presse. La poussée de Meta vers des systèmes capables d’apprendre à traduire le langage en utilisant seulement quelques exemples fait double emploi avec le travail effectué par des startups, notamment Hugging Face. Et Amazon explore depuis longtemps l’IA qui peut lire le langage corporel, ainsi que les signaux acoustiques et linguistiques, pour mieux anticiper ce que veulent les utilisateurs.

On pourrait soutenir que Meta est bien placé pour surpasser ce qui a été réalisé technologiquement à ce jour, bien sûr, compte tenu de sa division R&D bien financée et de ses trésors de données utilisateur. (L’automne dernier, Meta estimé qu’il dépenserait au moins 10 milliards de dollars sur Facebook Reality Labs, le laboratoire chargé de créer ses produits de réalité augmentée et de réalité virtuelle.) Mais le briefing de cette semaine a servi moins qu’une démonstration de technologie de pointe qu’un pitch du futur que Meta envisage pour lui-même, activé par l’IA.

Dans cet avenir, l’IA élimine la barrière de la langue et les assistants intelligents répondent aux caprices des utilisateurs en les transportant sur les plages tropicales avec une commande vocale. Si seulement.

C’est sans aucun doute une plate-forme plus rose que Facebook, qui a perdu des utilisateurs pour la première fois au cours du dernier trimestre fiscal de Meta. D’innombrables rapports, y compris celui de Meta a trouvé ce ses plateformes ont permis désinformation et désinformation s’épanouir, conduisant dans certains cas à émeutes et la violence. Selon des documents internes partagés par Frances Haugen, une employée de Facebook devenue dénonciatrice, et son équipe juridique, plus de 95 % des discours de haine partagés sur Facebook restent sur Facebook, malgré les affirmations publiques répétées de Meta à l’effet contraire.

La version optimiste de Meta du métaverse est moins problématique. Mais cela effleure des problèmes qui ont déjà commencé à surgir dans le monde virtuel, notamment les abus et la cyberintimidation. Dans un récent Enquête de la BBC où un journaliste s’est fait passer pour une fille de 13 ans, l’avatar numérique a été harcelé, appelé et poursuivi. Meta a récemment été contraint de mettre en œuvre une « limite personnelle » dans sa plateforme de réalité virtuelle pour lutter contre la lubricité.

Meta a maintenu – et continue de maintenir – que ses politiques de modération, soutenues par l’IA, garantiront que son métaverse reste un endroit sûr pour travailler et jouer. Mais étant donné que l’entreprise n’a pas réussi à atteindre cet objectif à un niveau plus fondamental, la perspective d’un métaverse sans harcèlement et géré par Meta est difficile à comprendre.

Il semble peu probable que l’IA soit le salut de Meta. Au contraire, elle a souvent exacerbé ou occulté l’ampleur des problèmes de modération de l’entreprise. En 2019, les ingénieurs de Meta aurait a découvert qu’un algorithme de modération sur Instagram (dont Meta est propriétaire) était 50 % plus susceptible d’interdire les utilisateurs noirs que les utilisateurs blancs. Plus récent rapports a révélé qu’à un moment donné, les systèmes de détection des discours de haine que Meta utilisait sur Facebook détectaient de manière agressive les commentaires dénigrant les Blancs plus que les attaques contre d’autres groupes démographiques. Et un erreur de traduction par le logiciel d’intelligence artificielle de Meta a conduit à l’arrestation d’un Palestinien en 2017 par la police israélienne.

Même en supposant que Meta surmonte les innombrables problèmes techniques – et politiques – qui affligent ses systèmes d’IA, de nombreux groupes, en particulier les locuteurs de langues peu courantes, craignent de perdre leur culture si elle est contrôlée uniquement par une entreprise. Alors que Meta peut voir un métaverse alimenté par l’IA comme la solution aux problèmes de sa plus grande plate-forme – qui, en plus de l’hostilité et de la désinformation, comprend baisse des revenus publicitaires — il est loin d’être sûr que le public l’adopte. Ils ne devraient pas non plus ; il faudra plus que des démonstrations technologiques ambitieuses et flashy pour apaiser les craintes que Meta tâtonne comme il l’a fait depuis longtemps.

Pour la couverture de l’IA, envoyez des conseils d’actualité à Kyle Wiggers – et assurez-vous de vous abonner à la newsletter AI Weekly et de mettre en signet notre chaîne AI, The Machine.

Merci pour la lecture,

Kyle Wiggers

Rédacteur principal de l’IA