Près d'un millier de comptes Twitter contrôlés par une grande ferme de robots diffusant de la propagande russe et les domaines utilisés pour enregistrer les robots ont été supprimés dans le cadre d'une opération conjointe internationale d'application de la loi menée par le ministère américain de la Justice.
Organisés et gérés par un rédacteur en chef adjoint de l'agence de presse publique russe Russia Today (RT) et un officier du FSB russe, les robots diffusent de la désinformation ciblant les utilisateurs de Twitter dans le monde entier depuis 2022 à l'aide d'un logiciel basé sur l'IA appelé Meliorator.
Les affiliés de RT ont utilisé Meliorator pour créer des comptes de médias sociaux d'apparence authentique se faisant passer pour de vraies personnes de plusieurs pays du monde entier afin d'amplifier les faux récits et l'influence étrangère malveillante de la Russie sur Twitter.
La ferme de robots des médias sociaux a permis à RT de diffuser largement des informations, conformément à l'objectif de la direction de RT d'étendre la distribution de l'information au-delà des émissions télévisées traditionnelles.
« Dès 2022, RT avait accès à Meliorator, un logiciel de génération et de gestion de fermes de robots basé sur l'IA pour diffuser de la désinformation vers et sur un certain nombre de pays, dont les États-Unis, la Pologne, l'Allemagne, les Pays-Bas, l'Espagne, l'Ukraine et Israël », a déclaré le FBI.
« Meliorator a été conçu pour être utilisé sur les réseaux sociaux afin de créer en masse des personnages d'apparence « authentique », permettant la propagation de la désinformation, ce qui pourrait aider la Russie à exacerber la discorde et à tenter de modifier l'opinion publique dans le cadre d'opérations d'information. »
Alors qu'en juin 2024, Meliorator ne fonctionnait que sur X (anciennement connu sous le nom de Twitter), les analyses suggèrent que ses opérateurs étendraient probablement ses fonctionnalités pour prendre en charge d'autres réseaux de médias sociaux.
La ferme de robots a enregistré de nouveaux robots Twitter à l'aide de serveurs de messagerie privés sur le mlrtr[.]com et otanmail[.]domaines com, qui ont été saisis [affidavit] dans le cadre de l’opération menée par le ministère de la Justice.
X a également supprimé 968 profils de réseaux sociaux [affidavit] identifié comme faisant partie de la ferme de robots de RT, prétendant souvent appartenir à des individus aux États-Unis.
« Les actions d'aujourd'hui représentent une première dans la lutte contre une ferme de robots de médias sociaux optimisés par l'IA générative sponsorisée par la Russie », dit Le directeur du FBI, Christopher Wray, mardi.
« La Russie avait l'intention d'utiliser cette ferme de robots pour diffuser de la désinformation étrangère générée par l'IA, en intensifiant son travail avec l'aide de l'IA pour saper nos partenaires en Ukraine et influencer les récits géopolitiques favorables au gouvernement russe. »
Le FBI et la Cyber National Mission Force (CNMF) ont publié un avis conjoint [PDF] avec plus de détails techniques sur le logiciel Meliorator qui alimente la ferme de robots en partenariat avec le Centre canadien pour la cybersécurité (CCCS), le Service général de renseignement et de sécurité des Pays-Bas (AIVD), le Service militaire de renseignement et de sécurité des Pays-Bas (MIVD) et la police néerlandaise.
