En apprenant à partir de l’audio d’une minute seulement, la nouvelle fonctionnalité peut donner à Alexa la possibilité de ressembler à pratiquement n’importe qui.
La technologie ne peut pas encore ramener les gens d’entre les morts, mais Amazon travaille sur une fonctionnalité qui permettra à son assistant d’intelligence artificielle Alexa de parler avec la voix d’un parent décédé pour “faire durer les souvenirs”.
A sa Conférence Re:Mars à Las Vegas hier (22 juin), Rohit Prasad, vice-président senior d’Amazon et directeur scientifique d’Alexa, a déclaré que le géant du commerce électronique travaille sur une technologie qui donnera à Alexa la capacité d’imiter la voix de pratiquement n’importe qui sur la base d’un seul audio d’une minute.
Le présentant comme une fonctionnalité pour aider les gens à faire face à la perte d’un être cher, à la lumière de la pandémie, Prasad a montré au public une vidéo dans laquelle un enfant demande à Alexa s’il peut lire Le magicien d’Oz dans la voix de la grand-mère. Après avoir brièvement reconnu l’enfant de sa propre voix, Alexa est passée à ce qui semblait être la voix de la grand-mère et a lu le roman à l’enfant.
“Cela a nécessité des inventions où nous avons dû apprendre à produire une voix de haute qualité avec moins d’une minute d’enregistrement contre des heures d’enregistrement en studio”, a déclaré Prasad à propos de la fonctionnalité.
« La façon dont nous y sommes parvenus est de définir le problème comme une tâche de conversion vocale et non comme un chemin de génération de la parole. Nous vivons incontestablement l’âge d’or de l’IA, où nos rêves et notre science.
Problèmes d’usurpation de voix
On ne sait pas encore quand la fonctionnalité sera disponible pour le déploiement au public, mais la technologie soulève sans aucun doute quelques sourcils pour ses utilisations au-delà de la simple imitation de la voix d’une personne décédée. D’une part, il peut être utilisé pour falsifier la voix de personnes vivantes à des fins malveillantes.
“Les implications d’attaque téléphonique de cet outil ne sont pas bonnes du tout – cela sera probablement utilisé pour l’usurpation d’identité”, tweeté hacker et PDG de SocialProof Security, Rachel Tobac.
« Je sais que cette technologie existe déjà. J’ai parlé de ce risque avec d’autres outils d’organisation. Mais plus il est facile à utiliser, plus il sera abusé. Et cela semble être assez convivial.
Tobac a fait valoir dans le fil qu’en plus d’être abusé pour usurpation d’identité dans les appels et les prises de contrôle de comptes, la technologie « sera probablement utilisée pour harceler et blesser des individus, en particulier les plus vulnérables ».
“J’ai hâte qu’Alexa utilise la voix de mon père décédé pour me dire à quel point il est fier de mon frère”, plaisanté un autre utilisateur de Twitter et ancien journaliste, Mike Sharp.
L’espace de la technologie d’usurpation de voix par IA suscite beaucoup d’intérêt de la part des grands acteurs de l’espace audio. Plus tôt cette semaine, le géant du streaming Spotify s’est emparé de la plate-forme vocale d’IA fondée en Irlande Sonantic, la société qui a donné vie au voix de Val Kilmer dans Top Gun: Maverick.
10 choses que vous devez savoir directement dans votre boîte de réception chaque jour de la semaine. Inscrivez-vous pour le Bref quotidienle résumé de l’actualité scientifique et technologique essentielle de Silicon Republic.
