Nous ne devenons que trop conscients de la facilité avec laquelle il est facile d’être trompé par de mauvais acteurs lorsqu’il s’agit de fausses histoires dans les nouvelles, d’États ennemis fouinant dans les résultats des élections et même de grandes sociétés de presse occidentales. manipuler des images pour raconter une histoire différente sur leurs propres sites Web.

Entrez dans le monde du Deepfake. Cette technique utilise l’IA pour donner l’impression qu’une personne (généralement un politicien ou un acteur) se comporte d’une manière qu’elle n’a pas faite ou dit des choses qu’elle n’a pas dites.

Les programmes informatiques manipulent les séquences vidéo et la voix pour donner l’impression qu’ils font réellement quelque chose de différent de ce qui s’est passé. Il a été particulièrement populaire pour simuler en profondeur diverses actrices dans des scènes de films pour adultes pour donner l’impression qu’elles participaient réellement.

On a longtemps craint que cette technologie ne devienne plus dangereuse que les fantasmes des hommes ayant trop de temps libre.

Et si vous pouviez truquer un dirigeant politique déclarant la guerre à un autre pays ? Ou annoncer la mort de quelqu’un qui était bien vivant ?

Et si vous pouviez réellement changer l’histoire et le manipulateur et présenter un événement que nous connaissons tous d’une manière totalement différente ?

Entrez le Center for Advanced Virtuality du Massachusetts Institute of Technology et un projet appelé En cas de catastrophe lunaire. En utilisant l’IA avancée et la technologie Deepfake, ils ont créé un site Web qui décrit une chronologie très différente des atterrissages sur la Lune, une chronologie qui s’est terminée par un désastre.

Vous savez peut-être ou non que tel était le facteur de risque dans la mission d’Armstrong et d’Aldrin, deux discours ont été écrits pour le président Richard Nixon – l’un célébrant le succès, l’autre à utiliser en cas de catastrophe. Les mots sont réels mais n’ont jamais été lus à l’antenne par Nixon car la mission a été un succès.

Jetez un coup d’œil au site Web ci-dessus pour voir comment Nixon a été manipulé pour prononcer les mots du discours inutilisé. Sa voix a été recréée par ordinateur pour les parler et bien, oui, c’est une pensée assez terrifiante à quel point une technologie comme celle-ci pourrait être abusée dans de nombreuses situations. L’occasion réelle du discours qu’il a prononcé était sur le thème du Vietnam.

Le projet est conçu pour mettre en évidence les dangers des deepfakes en prenant cet événement précieux de l’histoire américaine et en le racontant complètement de manière négative.

Les réalisatrices Francesca Panetta et Halsey Burgund ont déclaré : Même maintenant, la facilité de créer un deepfake convaincant est une évolution inquiétante dans un paysage médiatique déjà troublé. En en fabriquant un nous-mêmes, nous voulions montrer aux téléspectateurs à quel point cette technologie est devenue avancée, ainsi que les aider à se prémunir contre les deepfakes plus sophistiqués qui circuleront sans aucun doute dans un proche avenir. Si quelqu’un qui expérimente notre vidéo plus tard se souvient de la crédibilité de notre article et, par conséquent, porte un œil plus critique sur les vidéos qu’il voit apparaître dans son fil Facebook, nous aurons réussi.

Gardez à l’esprit que la technologie ne fera que s’améliorer avec le temps et qu’elle sera à peu près impossible à distinguer assez tôt. Matière à réflexion hein ?

La première partie de la vidéo donne un peu de contexte et le deepfake AI commence environ trois minutes et demie. Voyez à quel point il vous est facile de repérer le deepfake.