C’est assez effrayant, mais cela arrive à un moment où la désinformation constitue une véritable menace pour la démocratie et la sécurité nationale. Nina Schick, auteur de Deepfakes: The Coming Infocalypse, a déclaré au Daily Star, «Certains experts que j’ai interviewés pour mon livre ont déclaré que d’ici cinq à sept ans, 90% du contenu vidéo en ligne serait synthétique.»

Les Deepfakes sont des vidéos générées par l’apprentissage automatique de l’intelligence artificielle pour échanger le visage et / ou la voix d’une personne contre celle d’une autre. Cela est profondément inquiétant si quelqu’un qui veut répandre de la désinformation décide de le faire en utilisant une personnalité publique de premier plan – comme le président ou un dictateur étranger – pour le faire.

Cela peut entraîner une grave méfiance envers les dirigeants politiques (et donc la démocratie). Schick a dit Express en ligne: «Il peut bien sûr être utilisé comme un outil de propagande politique.

« Mais l’autre chose à propos des faux profonds qui est vraiment important pour la politique est que dans un monde où tout peut être truqué, y compris une vidéo de vous disant et faisant des choses que vous n’avez jamais faites, tout peut être nié. »

Pour faire les vidéos, Examen de la technologie MIT rapports, RepresentUs a travaillé avec l’agence de création Mischief at No Fixed Address. Deux acteurs aux accents authentiques et à la forme du visage similaire aux deux dictateurs ont été utilisés pour lire le scénario. Pour créer le deepfake réel, ils ont recruté un artiste deepfake, «qui a utilisé un algorithme open-source pour échanger les visages de Poutine et Kim». L’algorithme a ensuite été nettoyé pour paraître plus réaliste par une équipe de post-production.

Selon Examen de la technologie MIT, le processus a duré 10 jours au total; «Essayer l’équivalent avec CGI aurait probablement pris des mois [and]… Aurait pu être d’un coût prohibitif. »

Les deux vidéos étaient censées apparaître sur Fox, CNN et MSNBC, mais ont été retirées à la dernière minute. « Compte tenu de la nature sensible de l’utilisation des deepfakes dans un contexte politique, » Examen de la technologie MIT écrit: «Il est possible que les réseaux aient estimé que le public américain n’était tout simplement pas prêt.»

«Les Deepfakes sont un type de menace entièrement nouveau pour la démocratie et l’intégrité des médias. Cette annonce expose la menace aux yeux de tous. » Graham Lynn raconte Guide PC. «Nous espérons que cela inspirera les Américains à se rassembler pour lutter pour ce problème qui nous unit tous.»