Une patate chaude : Amazon développe des capacités qui permettront à son assistant vocal Alexa d’imiter n’importe quelle voix humaine après l’avoir entendue parler pendant moins d’une minute. Rejetant la chair de poule potentielle de la fonctionnalité, certains s’inquiètent du potentiel d’abus.

Rohit Prasad, qui dirige l’équipe Alexa chez Amazon, a déclaré que l’objectif du projet était de « faire durer les souvenirs » après que « nous sommes si nombreux à avoir perdu quelqu’un que nous aimons » à cause de la pandémie.

Alexa pourrait être qualifié pour imiter une voix en utilisant un son préenregistré, ce qui signifie que la personne n’a pas besoin d’être présente – ou même vivante – pour servir de source. Dans un segment vidéo diffusé lors d’une conférence cette semaine, un enfant a demandé à Alexa si grand-mère pouvait finir de lire Le Magicien d’Oz. Effectivement, Alexa change de voix pour se moquer de la grand-mère de l’enfant et finir de lire l’histoire.

Prasad a déclaré lors de la présentation qu’Alexa reçoit désormais des milliards de demandes par semaine de centaines de millions d’appareils compatibles Alexa dans 17 langues dans plus de 70 pays à travers le monde.

Le potentiel d’abus semble élevé. Par exemple, l’outil pourrait être utilisé pour créer des deepfakes convaincants pour des campagnes de désinformation ou de propagande politique. Les fraudeurs pourraient tirer parti des capacités pour un gain financier, comme en 2020 lorsque les escrocs trompé un directeur de banque à transférer 35 millions de dollars pour financer une acquisition qui n’existait pas.

Quelles sont vos réflexions sur le sujet ? Amazon pousse-t-il un peu trop loin le concept de clonage de voix ou êtes-vous intrigué par l’idée d’avoir une « conversation » avec quelqu’un de la tombe ?

Crédit image : Jan Antonin Kolar