Grok – à ne pas confondre avec la start-up homophonique d’IA Groq qui a levé ce matin plus de 600 millions de dollars – a diffusé de fausses informations sur la vice-présidente Kamala Harris sur X, le réseau social anciennement connu sous le nom de Twitter.
C’est selon un Lettre ouverte rédigé par cinq secrétaires d’État et adressé à Tesla, SpaceX et au PDG de X, Elon Musk, qui affirme que le chatbot alimenté par l’IA de X a suggéré à tort que Harris n’est pas éligible pour figurer sur certains bulletins de vote présidentiels américains de 2024.
La lettre, dirigée par le secrétaire d’État du Minnesota Steve Simon et signée par ses homologues Al Schmidt de Pennsylvanie, Steve Hobbs de Washington, Jocelyn Benson du Michigan et Maggie Toulouse Oliver du Nouveau-Mexique, exhorte Musk à « mettre immédiatement en œuvre des changements à l’assistant de recherche IA de X, Grok, pour s’assurer que les électeurs disposent d’informations précises en cette année électorale cruciale ».
Le 21 juillet, quelques heures après l’annonce par le président Joe Biden qu’il suspendrait sa candidature à la présidence, Grok a commencé à répondre aux questions sur l’éligibilité de Harris en affirmant trompeusement que les dates limites du scrutin étaient passées dans neuf États : Alabama, Indiana, Michigan, Minnesota, Nouveau-Mexique, Ohio, Pennsylvanie, Texas et Washington.
En fait, les dates limites pour le scrutin n’étaient pas passées. Mais la désinformation de Grok s’est répandue partout, atteignant des millions d’utilisateurs sur X et au-delà avant d’être corrigée le 31 juillet, selon la lettre.
« Alors que Grok n’est disponible que pour les abonnés X Premium et Premium+ et comprend une clause de non-responsabilité demandant aux utilisateurs de vérifier les informations, les fausses informations sur les dates limites des bulletins de vote ont été capturées et partagées à plusieurs reprises dans plusieurs messages », ont écrit les secrétaires d’État.
Musk a été critiqué pour la façon dont X a géré la modération des sujets politiques – et pour avoir lui-même attisé les flammes.
Les données suggèrent que X a significativement moins de personnel de modération que d’autres plateformes, en partie conséquence de Musk supprimant environ 80 % des ingénieurs de l’entreprise dédiés à la confiance et à la Sécurité. Plus tôt cette année, X promis établir un nouveau centre d’excellence en matière de confiance et de sécurité à Austin, au Texas. Mais l’entreprise a fini par embaucher beaucoup moins de modérateurs pour le centre que prévu initialement. selon à Bloomberg.
Musk n’a pas vraiment été un enfant modèle en matière de vérification des faits.
Le PDG vendredi dernier repartagé une vidéo, apparemment contraire aux directives de sa propre plateforme, qui utilisait l’IA pour cloner la voix de Harris, la faisant paraître admettre qu’elle était une « embauche de la diversité » et disant qu’elle « ne sait pas la moindre chose sur la gestion du pays ». Le milliardaire à l’époque Posté « la guerre civile est inévitable » en réponse aux émeutes à travers le Royaume-Uni déclenchées par le meurtre de trois filles la semaine dernière et la diffusion de fausses informations sur l’auteur de l’attentat, ce qui a incité le premier ministre du Royaume-Uni, Keir Starmer, à émettre une vive condamnation.
