La FCC a proposé une amende de 6 millions de dollars pour l’escroc qui a utilisé la technologie de clonage vocal pour se faire passer pour le président Biden dans une série d’appels automatisés illégaux lors d’une élection primaire du New Hampshire. Il s’agit plus d’appels automatisés que d’IA, mais l’agence positionne clairement cela comme un avertissement aux autres escrocs potentiels de haute technologie.

Comme vous vous en souvenez peut-être, en janvier, de nombreux électeurs du New Hampshire ont reçu un appel prétendant être un message du président leur disant de ne pas voter lors de la prochaine primaire. C’était, bien sûr, faux – un clone vocal du président Biden utilisant une technologie qui est devenue largement disponible au cours des deux dernières années.

Bien que la création d’une fausse voix soit possible depuis longtemps, les plateformes d’IA générative l’ont rendue triviale : des dizaines de services proposent des voix clonées avec peu de restrictions ou de surveillance. Vous pouvez faire votre propre voix de Biden assez facilement avec une minute ou deux de ses discours, qui sont naturellement faciles à trouver en ligne.

Ce que vous ne pouvez pas faire, la FCC et plusieurs organismes d’application de la loi l’ont clairement indiqué, c’est utiliser ce faux Biden pour supprimer les électeurs, via des appels automatisés qui étaient déjà illégaux.

« Nous agirons rapidement et de manière décisive pour nous assurer que les mauvais acteurs ne peuvent pas utiliser les réseaux de télécommunications américains pour faciliter l’utilisation abusive de la technologie d’IA générative pour interférer avec les élections, frauder les consommateurs ou compromettre des données sensibles », a déclaré le chef du bureau de l’application de la FCC, Loyaan Egal, dans un communiqué de presse.

Le « consultant politique » Steve Kramer était le principal auteur, bien qu’il ait demandé l’aide de la louche Life Corporation (précédemment accusée d’appels automatisés illégaux) et des services d’appel de la louche Telecom Lingo, AKA Americatel, AKA BullsEyeComm, AKA Clear Choice Communications, AKA Excel Telecommunications, AKA Impact Telecom, AKA Matrix Business Technologies, AKA Startec Global Communications, AKA Trinsic Communications, AKA VarTec Telecom.

Kramer est « apparemment » en violation de plusieurs règles – mais il n’y a pas encore de procédure pénale contre lui ou ses collaborateurs. Il s’agit d’une limitation du pouvoir de la FCC : elle doit travailler avec les forces de l’ordre locales ou fédérales pour donner du poids à ses déterminations de responsabilité en tant qu’agence experte.

L’amende de 6 millions de dollars ressemble davantage à un plafond ou à une aspiration ; comme pour la FTC et d’autres, le montant réel payé est souvent beaucoup moins élevé pour de nombreuses raisons, mais même ainsi, c’est une somme importante. La prochaine étape pour Kramer est de répondre aux allégations, bien que des mesures distinctes soient prises contre Lingo, ou quel que soit le nom qu’ils se donnent maintenant qu’ils ont été arrêtés à nouveau, ce qui pourrait entraîner des amendes ou des pertes de licences.

Les voix générées par l’IA ont été officiellement déclarées illégales dans les appels automatisés en février, après que l’affaire ci-dessus ait soulevé la question de savoir si elles comptaient comme « artificielles » – et la FCC a décidé, en toute logique, qu’elles le faisaient.

Nous lançons une newsletter sur l’IA ! S’enregistrer ici pour commencer à le recevoir dans vos boîtes de réception le 5 juin.