HereAfter AI : Parler à ceux qui ne sont plus là : le risque de ressusciter les morts avec l’intelligence artificielle | Technologie

En larmes, après avoir écouté leurs proches décédés, plusieurs femmes ont avoué leur étonnement face à la situation. montrer télévision La fourmilière (Antenne 3). “C’était super réel et j’en avais besoin, j’en avais vraiment besoin”, sanglotait une jeune femme devant les caméras. “La voix est incroyable, très heureuse de l’expérience”, a ajouté une autre femme en essuyant ses larmes. Le programme de Pablo Motos avait profité de l’intelligence artificielle pour recréer, à partir d’audio réel, les voix de morts. Non seulement ils l’ont reproduit, quelque chose de très simple à faire et qui a causé des problèmes de désinformation en raison de l’utilisation de ces contrefaçons profondes avec la voix de Joe Biden ou du chef du parti travailliste britannique, Keir Starmer. Les audios générés posaient des questions qui suggéraient aux participants – « Avons-nous encore des conversations ? » – dans cette « expérience réelle », comme l’appelle le programme, qui s’est immergé dans heure de grande écoute dans un marché émergent, celui de recréer le défunt grâce à l’intelligence artificielle (IA). Les psychologues préviennent que cela peut interférer avec l’adaptation naturelle au deuil et rendre chroniques les phases les plus douloureuses.

La mort d’un proche, c’est comme perdre une partie de soi. C’est l’origine de plusieurs difficultés de bien-être émotionnel et nombreux sont ceux qui seraient prêts à tout pour atténuer ce sentiment de perte accablante. Parlez même face à face avec cet être cher, si possible. Cela ressemble à de la science-fiction, mais les entreprises aiment Ci-après, par la suiteStoryFile et Réplique Ils le font et cela n’a rien de surnaturel. À l’aide d’entretiens et d’autres contenus, ils créent des versions numériques d’individus décédés pour interagir avec les vivants, que ce soit par chat, voix ou vidéo. En Chine, cette activité est déjà en croissance, plusieurs entreprises affirmant avoir créé des milliers de ces personnages numériques ou robots fantômes. Certains prétendent même qu’ils peuvent le faire. avec seulement 30 secondes d’enregistrement audiovisuel du défunt.

L’Américain Fichier d’histoire interviewe des personnes tout au long de leur vie par vidéo, en posant une série de questions sur des expériences clés, comme leur enfance, leur mariage ou leur plus grand défi, ainsi que d’autres que la personne interrogée décide d’ajouter. Sur la base des réponses et grâce à l’utilisation de l’intelligence artificielle, une vidéo conversationnelle est générée avec laquelle les enfants, les parents, les amis et les proches peuvent interagir à l’avenir. Selon ce qu’ils indiquent, environ 5 000 personnes ont déjà créé des profils sur la plateforme. Le coût de la prestation varie entre 40 et 450 euros, selon le nombre de questions que vous souhaitez inclure. Ils proposent également un essai gratuit.

Stephen Smith, co-fondateur de StoryFile, explique que l’entreprise est née il y a dix ans dans le but de préserver la mémoire des survivants de la Shoah. Mais c’est fin 2021 que la plateforme est devenue ce qu’elle est aujourd’hui, où n’importe qui peut enregistrer des vidéos avec une webcam depuis chez soi ou en studio.

Le cofondateur souligne que la plateforme n’invente pas de contenu, mais plutôt « récupère quelque chose de préenregistré », déjà existant. Mais il est possible d’aller plus loin et d’ajouter des informations provenant d’autres formats. «Nous l’avons fait en utilisant la méthodologie des archives conversationnelles. Cela signifie utiliser du contenu de la vie de la personne, comme une vidéo où nous pouvons cloner la voix et lui faire dire ensuite des choses qu’elle a dites dans sa vie. Par exemple, vous pouvez utiliser un e-mail et le faire lire ensuite. Si quelqu’un veut que cela se produise, c’est possible”, a-t-il déclaré à EL PAÍS par vidéoconférence.

Le danger de devenir accro

L’élément le plus inquiétant est peut-être que certaines personnes pourraient devenir dépendantes, voire accros, à parler avec des avatars virtuels, car ils génèrent un faux sentiment de proximité avec les morts, comme l’a montré le programme Antena 3. Les femmes volontaires parlaient directement à la voix ― «Je te dirais…», «Tu me manques» – comme si cette récréation synthétique était sa grand-mère décédée un an plus tôt.

« Au début, il y a un soulagement. Mais alors, une addiction, une dépendance surgit », prévient José González, psychologue spécialisé dans les processus de deuil. « Si l’IA reproduit littéralement ce que l’on était, il y a un grand danger de chronification, surtout dans les relations très intenses. Il est facile de se laisser aller à ce fantasme selon lequel il n’est pas mort. Cela peut provoquer ce gel dans la phase de déni », poursuit-il.

L’expert, qui a travaillé avec plus de 20 000 personnes en deuil pendant 25 ans, reconnaît que les vidéos conversationnelles peuvent être utiles pour entretenir des souvenirs, raconter des anecdotes ou transmettre des informations entre générations avec émotion. Également lorsqu’il s’agit de reproduire certaines des techniques mises en œuvre en consultation pour résoudre les problèmes en suspens, qui n’ont pas pu être résolus par la discussion. «Je pose quelques questions sur le lien avec la personne décédée, par exemple ‘ce que j’ai le plus aimé chez toi’ ou ‘quand tu m’as le plus déçu’. Avec ces réponses, la personne en deuil écrit une lettre et la lit sur une chaise vide », décrit-il. Selon lui, l’IA pourrait être appliquée à des dynamiques comme celle-ci, à temps, à condition qu’elle soit étroitement encadrée par un professionnel.

González souligne qu’il existe également un risque lié à ce qui est exprimé dans ces enregistrements. Les messages d’adieu peuvent être très puissants et aider à soulager la souffrance car c’est le moment où vous dites à votre famille combien vous l’aimez, cela la libère de la culpabilité et rend le deuil beaucoup plus supportable. Cependant, sans la supervision d’experts, même les meilleures intentions pourraient avoir des effets néfastes. “Imaginez que je sois père d’une fille unique et que je lui dis : ‘Je te laisse comme objectif vital de bien prendre soin de ta mère.’ Cela peut être très gentil, mais cela peut aussi être une phrase si la personne qui serait la mère est extrêmement malade », illustre-t-il. C’est à ce moment-là qu’un professionnel recommanderait au père de parler différemment pour éviter la création d’une charge émotionnelle. Et s’il n’y a pas de contrôle, la probabilité de malentendus augmente.

Un problème éthique

Dans quelle mesure un avatar peut-il être fidèle ? À qui appartient-il ? Quel type de données peut être utilisé pour sa création ? Ce ne sont là que quelques-unes des questions qui se posent autour de ce sujet. Pour Gry Hasselbalchéthicien au Conseil européen de la recherche, les implications s’étendent à une sphère existentielle : « Toute technologie basée sur le fait ou l’idée qu’elle peut rivaliser avec les humains soulève la question de savoir ce que signifie être humain, quelles sont nos limites. et s’il est possible de l’utiliser pour dépasser une limite.

Hasselbalch, qui est également co-fondateur du groupe de réflexion danois DataEthics.eu, estime que la prolifération des avatars des défunts représente un dilemme qui va au-delà des données, du consentement ou de qui a les droits. “Cela pourrait changer l’identité de l’humanité et de l’être humain, car cela remet en question l’idée même de mortalité”, dit-il.

Parmi plusieurs problèmes potentiels, l’expert en éthique de l’IA souligne la possibilité d’un outil qui collecte non seulement le contenu des réseaux sociaux, les e-mails et les messages mobiles d’une personne décédée, mais également ses habitudes de recherche sur Internet. Cela pourrait révéler des passe-temps ou des intérêts inconnus de la personne, depuis une passion pour un animal ou un sport jusqu’à, dans le pire des cas, un sombre secret.

Si l’intelligence artificielle combine ces informations avec d’autres éléments qui constituent votre identité, mais accorde plus d’importance à certains aspects, elle pourrait aboutir à la création d’un avatar ou d’un robot qui ne ressemble pas du tout à ce qu’était cette personne dans la vraie vie. Il s’agit d’un scénario dans lequel « le contrôle serait perdu », prévient-il. Et ce n’est pas le seul. « Avec quelle facilité pourriez-vous être manipulé si un être cher qui vous manque vous dit de voter d’une certaine manière ou d’acheter des choses spécifiques ? Nous ne savons pas quelles entreprises émergeront derrière cela », réfléchit-il.

« Deepfakes » et « copyright »

L’un des clients de StoryFile est feu Sam Walton, fondateur de l’entreprise géante Walmart. « Nous travaillons avec votre dossier d’entreprise. Nous avons examiné de nombreuses heures de matériel, transcrit ses discours, ses vidéos et créé 2 500 réponses aux questions auxquelles il avait répondu au cours de sa vie avec exactement les mêmes mots qu’il a utilisés », décrit-il. Le résultat a été une recréation numérique comportant le visage, la voix et un hologramme grandeur nature de Walton. Est-ce que cela peut être très réaliste ? “Les gens qui ont connu Sam ont les yeux embués à cause de son réalisme”, explique Alan Dranow, cadre de cette entreprise. La famille de l’homme d’affaires avait donné son accord pour cette production, mais d’autres célèbres ont vu leurs visages et leurs mots recréés par l’IA sans accord commun.

C’est le cas du comédien américain George Carlin, décédé en 2008, et dont la voix et le style ont été clonés pour la création du podcast George Carlin : Je suis content d’être mort, posté sur YouTube au début du mois de janvier. La semaine dernière, une action en justice a été déposée devant un tribunal fédéral de Los Angeles demandant que Dudesy, la société à l’origine de ce projet, supprime immédiatement le spécial audio. Sa fille, Kelly Carlin, avait déjà critiqué la production, dans laquelle une synthèse vocale de l’artiste commente les épisodes en cours. « Mon père a passé sa vie à perfectionner son métier grâce à son humanité, son cerveau et son imagination. Aucune machine ne remplacera jamais son génie. Ces produits générés par l’IA sont des tentatives ingénieuses pour recréer un esprit qui n’existera plus jamais. Laissons le travail de l’artiste parler d’elle-même”, a-t-il déclaré lors de la plateforme X.

Selon StoryFile, le service qui intègre le plus avancé de cette technologie s’adresse uniquement à un groupe restreint. « Nous ne le proposons pas en tant que produit sur notre site Internet pour le moment, mais plutôt pour les clients privés. Nous ne voulons pas que notre technologie soit utilisée pour créer un faux profond de quelqu’un d’autre », nuance Smith.

Cependant, il existe des alternatives qui le font. L’entreprise Salut Gén, par exemple, vous permet de générer des vidéos avec clonage vocal, synchronisation labiale et styles de parole. Si l’on n’y regarde pas très attentivement, il est presque impossible de remarquer qu’il s’agit d’une création artificielle. Bien que la plateforme soit présentée comme une solution pour personnaliser et traduire du contenu dans le monde de l’entreprise, en pratique elle peut être utilisée à n’importe quelle fin de ce type : dire au revoir à un être cher ou l’utiliser pour générer de l’argent.

Vous pouvez suivre Technologie EL PAÍS dans Facebook oui X ou inscrivez-vous ici pour recevoir notre bulletin d’information semanal.