La menace des deepfakes augmente à mesure que les outils d’IA pour les créer deviennent largement accessibles. Il y a eu une augmentation de 245 % des deepfakes dans le monde de 2023 à 2024, une hausse stimulée en partie par les cycles électoraux à venir, selon le fournisseur de vérification Sumsub. Cela affecte également le secteur des entreprises ; Une récente enquête Business.com a révélé que 10 % des entreprises ont été confrontées à la fraude assistée par le deepfake, comme des voix clonées.
La tendance, sans surprise, a été une aubaine pour les entreprises qui commercialisent des outils de défense contre les deepfakes et les technologies utilisées pour les produire. L’une de ces entreprises, Pindrop, a annoncé mercredi qu’il avait obtenu un prêt de 100 millions de dollars sur cinq ans de Hercules Capital, qui, selon le PDG Vijay Balasubramaniyan, est destiné au développement de produits et à l’embauche.
« Avec les progrès de l’IA générative, le clonage vocal en particulier est devenu un outil puissant », a déclaré Balasubramaniyan à TechCrunch. « La détection des deepfakes exploitant les technologies de détection de l’IA est désormais nécessaire pour chaque centre d’appels afin de garder une longueur d’avance sur les fraudeurs. »
Pindrop développe des produits de lutte contre le deepfake et d’authentification multifactorielle ciblant les entreprises des secteurs bancaire, financier et connexes. L’entreprise affirme que ses outils peuvent identifier les appelants du centre de contact, par exemple, et avec une plus grande précision que les solutions concurrentes.
« Pindrop exploite un ensemble de données de plus de 20 millions d’énoncés, à la fois synthétiques et authentiques, pour entraîner les modèles d’IA à différencier les voix humaines authentiques des voix générées synthétiquement », a déclaré Balasubramaniyan. « Nous avons également formé plus de 330 modèles de synthèse vocale (TTS) pour aider à identifier les modèles TTS utilisés pour créer le deepfake. »
Le biais est un problème courant dans les modèles de détection de deepfake. De nombreux modèles audio ont tendance à être biaisés en faveur de la reconnaissance des voix occidentales et américaines et fonctionnent mal avec différents accents et dialectes, ce qui pourrait conduire un détecteur à classer une voix légitime comme un deepfake.
La question de savoir si les données d’entraînement synthétiques – les données d’entraînement générées par les modèles d’IA eux-mêmes – est à débattre atténue ou exacerbe les préjugés. Pour ce que cela vaut, Balasubramaniyan pense la première fois et affirme que les produits d’authentification vocale de Pindrop se concentrent sur les « caractéristiques acoustiques et spectro-temporelles » des voix par opposition à la prononciation ou au langage.
« Les systèmes de reconnaissance vocale basés sur l’IA ont tendance à afficher des résultats biaisés en faveur des différences de tonalité, d’accent, de langue vernaculaire et de dialecte, ce qui pourrait avoir des implications raciales », a déclaré Balasubramaniyan. « Ces biais découlent de l’homogénéité des données utilisées pour former les systèmes qui peuvent manquer de représentation de diverses différences ethniques, raciales, de genre ou autres, limitant ainsi la variété des données sur lesquelles les systèmes d’IA sont formés. »
Quelle que soit l’efficacité de ses produits, Pindrop a fait des percées substantielles depuis 2011, lorsque Balasubramaniyan, un ancien Googler, a fondé l’entreprise avec l’ancien directeur de la recherche de Barracuda Networks, Paul Judge, et Mustaque Ahamad. À ce jour, la société basée à Atlanta, qui emploie environ 250 personnes, a levé 234,77 millions de dollars en capital-risque auprès d’investisseurs tels que Vitruvian Partners, CapitalG, IVP et Andreessen Horowitz.
Lorsqu’on lui a demandé pourquoi Pindrop avait opté pour la dette plutôt que pour des actions cette fois-ci, M. Balasubramaniyan a déclaré qu’il s’agissait d’une « option attrayante » pour « lever efficacement du capital de croissance » sans diluer les capitaux propres de Pindrop. (C’est une stratégie courante.)
Le produit du prêt permettra à Pindrop d’apporter sa technologie à de nouveaux secteurs, a ajouté M. Balasubramaniyan, tels que la santé, le commerce de détail, les médias et les voyages.
« Avec l’avènement de l’IA générative, nous constatons une demande massive pour nos solutions dans le monde entier et nous prévoyons de nous étendre dans des pays qui connaissent des menaces importantes en raison des deepfakes », a déclaré Balasubramaniyan. « Pindrop est en mesure d’aider les entreprises à se protéger et à protéger leurs consommateurs contre les menaces croissantes de fraude et de deepfake grâce à des solutions de prévention de la fraude, d’authentification et de vivacité. »
