Lorsque vous êtes dans le métaverse, vous êtes généralement représenté soit par un avatar en bloc ou caricatural, soit par un torse flottant désincarné et une paire de mains. Aucun d’entre eux ne vous ressemble à distance.

Mais que se passe-t-il lorsque les choses deviennent beaucoup plus réelles ?

Un certain nombre d’entreprises développent des moyens pour vous de créer des représentations hyperréalistes de vous-même pour le métaverse, avec votre visage, votre voix et même la façon dont vous vous déplacez. L’une d’entre elles est Metaphysic, une entreprise de deepfake ou de médias synthétiques, fondée par Chris Ume, créateur du Vidéos de Deep Tom Cruise qui a pris d’assaut TikTok l’année dernière.

Les vidéos prétendaient montrer l’acteur hollywoodien faisant des choses comme manger dans une sucette et jouer au golf. Les images étaient d’un acteur différent, avec le visage de Tom Cruise si habilement transposé sur le dessus qu’il est difficile de dire qu’il n’est pas réel.

https://www.youtube.com/watch?v=wq-kmFCrF5Q

Maintenant, Metaphysic veut mettre cette technologie entre les mains de tout le monde, afin qu’ils puissent l’utiliser pour créer leur propre avatar hyperréel. La startup récemment levé 7,5 millions de dollars d’investisseurs tels que Winkelvoss Capital et YouTuber Logan Paul pour aider à financer cela.

« Toute personne peut venir créer son propre avatar synthétique hyperréel », explique Tom Graham, PDG et cofondateur de Metaphysic.

Mais ce n’est pas tout : avec Metaphysic, vous pouvez également stocker en toute sécurité votre avatar (en tant que jeton non fongible), afin que vous puissiez conserver la propriété de votre propre image et, surtout, des données biométriques utilisées pour la créer.

D’autres entreprises le font aussi. Humans.ai basé en Roumanie offre également un service où les gens peuvent créer un NFT de leur propre visage ou voix.

Il s’agit en partie de s’amuser – qui ne veut pas créer un mini-moi d’eux-mêmes ? Ou voir à quoi ils ressembleraient habillés en Lady Gaga ?

Mais il y a aussi un côté sérieux. Si nous ne trouvons pas de moyens de sécuriser nos identités dans le métaverse dès le début – comme Metaphysic vise à le faire – le résultat pourrait être une horrible perte de contrôle de nos propres images et données biométriques.

Une plongée rapide dans le dilemme du deepfake

Personne ne le sait mieux que Henry Ajder, un chercheur qui a passé des années à étudier les utilisations malveillantes des médias synthétiques. UN enquête conjointe il a réalisé avec Karen Hao de MIT Technology Review en 2019 a révélé que 96% de tous les médias synthétiques à cette époque étaient pornographiques, principalement créés par des robots qui pouvaient échanger les visages des gens sur le corps de quelqu’un accomplissant des actes obscènes.

C’était à une époque où la technologie deepfake en était encore à ses balbutiements. Maintenant, c’est devenu exponentiellement plus facile et plus réaliste.

« L’avenir sera synthétisé et il n’y a pas d’édulcoration des défis à venir »

« Auparavant, il fallait 150 personnes de CGI et 250 millions de dollars pour créer un ensemble d’effets vraiment profonds pour un film. Maintenant, nous pouvons le faire pour quelques milliers de dollars, quelques GPU et une seule personne », explique Graham.

Et les vidéos deepfake continuent d’apparaître partout. Au début de l’invasion de l’Ukraine par la Russie, une vidéo deepfake maladroite du président Volodymyr Zelensky soi-disant se rendre a montré comment ce type de médias pouvait être militarisé à des fins politiques. La vidéo était relativement grossière, mais les experts mettent en garde que les prochains pourraient ne pas être si faciles à distinguer.

Vous ne pouvez pas interdire la technologie, dit Ajder : « Si vous interdisez les médias synthétiques, vous interdisez tous les filtres Instagram, vous interdisez la photographie informatique sur votre appareil photo et votre smartphone, vous interdisez les dinosaures de Jurassic Park. Cela ne va pas disparaître – l’avenir sera synthétisé et il n’y a pas d’édulcoration des défis à venir.

Donner le bon exemple

La seule chose que vous pouviez faire, raisonnait Ajder au moment de son article, était d’essayer de créer une industrie suffisamment importante autour de la technologie légitime et éthique de contrefaçon pour essayer d’établir les meilleures pratiques – et peut-être, juste peut-être, aider à équilibrer les infâmes les usages.

Ajder s’est associé à Ume et Graham, qui mettaient en place à l’époque Metaphysic, pour donner des conseils sur la façon de prendre les choses dans une direction éthique.

« Je viens beaucoup de cette perspective de comprendre comment la technologie peut être utilisée de manière malveillante, mais j’ai également vu une explosion d’utilisations créatives et commerciales vraiment intéressantes de la technologie, et la nécessité d’une conversation plus nuancée autour les médias synthétiques en tant que technologie », a-t-il déclaré à Sifted l’année dernière lorsqu’ils ont commencé. « Entre de bonnes mains et utilisé de manière responsable, il pourrait en fait être l’avenir de l’expression créative. Nous devons nous assurer que nous voyons un bon exemple.

Metaphysic a essayé de modéliser les façons dont les entreprises de médias pourraient utiliser les médias synthétiques de manière responsable. La société a aidé des acteurs célèbres, par exemple, à louer leurs images à des agences de publicité pour créer une campagne, mais tout devait être fait avec le consentement et dans les limites convenues.

« Il existe des cas d’utilisation assez clairs que nous considérons comme explicitement mauvais – abus d’image non consensuel dans le contexte pornographique, trucs politiques trompeurs, problèmes de cybersécurité avec fraude », a déclaré Ajder.

Une autre société de médias synthétiques, D-ID, qui a travaillé avec Warner Brothers sur divers projets cinématographiques, a également fait pression pour établir un code de déontologie dans l’industrie.

Mais maintenant ça devient le problème de tout le monde

Alors que la technologie deepfake émerge du domaine des projets publicitaires et cinématographiques et devient accessible à tous, des entreprises comme Metaphysic estiment qu’elles doivent aller plus loin.

L’équipe ne veut pas seulement s’assurer que l’industrie du cinéma et de la publicité utilise les médias synthétiques de manière éthique – elle veut que tout le monde puisse créer et sécuriser son avatar. Ils sont offrant leur service, appelé tout le monde, gratuitement, les utilisateurs n’ayant qu’à dépenser environ 20 $ pour les frais de frappe NFT.

Bien sûr, cela n’empêchera pas quelqu’un de voler votre visage pour créer du porno de vengeance s’il le veut vraiment. Mais ils veulent que les gens comprennent ce qu’il est possible de faire avec les images et qu’ils examinent les moyens de contrôler l’utilisation de leur visage et de leur voix.

« Nous voulons que les utilisateurs individuels sentent qu’ils ont plus de contrôle sur qui ils sont et qu’ils ne s’inquiètent pas d’envoyer toutes leurs données à une entreprise douteuse et de ce qui pourrait arriver à cela à l’avenir », déclare Graham.

« C’est vraiment fondamentalement une question de consentement. Nous voulons uniformiser un peu les règles du jeu et créer un paradigme où c’est la norme.

Maija Palmer est la rédactrice innovation de Sifted. Elle couvre les technologies profondes et l’innovation d’entreprise, et les tweets de @maijapalmer