L’IA discute avec les défunts : confort ou problème éthique ?

Quelles questions poseriez-vous si vous pouviez à nouveau discuter avec un proche décédé ?

Christi Angel a demandé : « Qu’est-ce qui te rend heureux là-bas ? Quelle musique écoutes-tu maintenant ? » Elle a la quarantaine, vit à New York et est une fervente chrétienne. Après la mort de son grand amour le Cameroun, elle a testé un programme qui utilise l’intelligence artificielle (IA) pour imiter le défunt dans le chat. Et les réponses l’ont étonnée.

KI-Cameroun a écrit qu’être avec elle le rendait heureux. Et lorsqu’on lui a demandé ce qu’il écoutait : “Marvin Sapp, Brian McKnight, Fred Hammond, Kirk Franklin et quelques autres.”

C’était presque effrayant pour Angel : « C’était comme lui. La façon de parler, les abréviations. Et comment l’IA a-t-elle su qu’elle et le Cameroun aimaient le R’n’B et le gospel ?

Elle était consciente qu’elle n’écrivait pas dans le vrai Cameroun. Et en même temps, elle parvenait à l’oublier quelques instants en discutant. C’est ce que raconte Christi Angel dans le film «Eternal You – The End of Finitude» de Hans Block et Moritz Riesewieck, à voir en Suisse à partir de novembre.

Le film fait partie d’une série de reportages sur un nouveau domaine d’application de l’IA : la technologie du deuil, c’est-à-dire une technologie destinée à aider au deuil. Cela suscite un grand intérêt. Mais les modalités et la qualité des offres sont souvent discutables.

Elle a trouvé du réconfort – jusqu’à ce que KI-Cameroun lui écrive qu’il la hanterait

Le programme utilisé par Christi Angel s’appelle Project December. Il simule des personnes décédées dans le chat. D’autres sociétés imitent également les voix des défunts, animent leurs visages en vidéo ou encore les montrent de manière immersive en réalité virtuelle. Certains entrepreneurs vont jusqu’à affirmer que leur technologie surmonte la mort.

Le projet Décembre est plus modeste et parle de simulation. Pour dix dollars vous pouvez créer une personne et échanger une centaine de messages. Selon le Site web de l’entreprise, cela représente environ une heure de conversation. Au préalable, les utilisateurs doivent remplir un questionnaire : noms, surnoms, âge, cause du décès, ville de résidence de la personne décédée, entre autres. Vous pouvez également saisir des passe-temps ou les noms d’animaux de compagnie.

Le projet Décembre utilise ces informations comme base pour sa simulation. Pour faire simple, ce type de programme se compose de deux parties : Un modèle de langage d’IA comme GPT 4 s’exécute en arrière-plan. Celui-ci peut générer des phrases avec un sens et une syntaxe. Le projet Décembre ajoute un autre élément de base à l’IA. Parmi toutes les réponses possibles que l’IA pourrait donner à une question de Christi Angel, elle sélectionne la réponse qu’aurait la plus susceptible de donner une personne présentant les caractéristiques du Cameroun.

Pendant longtemps, cela a bien fonctionné pour Christi Angel. Jusqu’à ce qu’elle demande : « Comment est-ce là où tu es ? »

“C’est sombre et solitaire.”

“Vraiment?”

“Et.”

« Quel genre de personnes avez-vous rencontré ? »

“Surtout les toxicomanes.”

« Au paradis ?

“Non, en enfer.”

L’IA répond aux questions à l’aide de calculs de probabilité. Cela fonctionne selon le principe suivant : lorsque vous appelez dans la forêt, cela résonne. Pour que les réponses ne soient pas trop prévisibles, un élément aléatoire est ajouté. Cela crée également des rebondissements inquiétants.

Christi Angel n’avait pas étudié le fonctionnement de l’IA ni ce qui pouvait mal tourner dans une telle conversation. Elle a été choquée lorsque KI-Cameroun lui a écrit qu’il était en enfer, un fantôme dans un foyer pour toxicomanes et qu’il la hanterait aussi. Elle n’a pas bien dormi parce qu’elle était tellement préoccupée par cette affaire.

Les entreprises vendent une illusion à laquelle on ne peut pas faire confiance

L’entrepreneur à l’origine du Projet Décembre a laissé sans réponse les questions de la NZZ. Dans l’interview de « Eternal You », il semble assez arrogant. Quiconque prend sa technologie au sérieux et croit au paradis et à l’enfer n’est qu’à lui-même à blâmer, dit-il à propos du cas d’Angel.

Il y a un petit avertissement sur le site Web du Projet Décembre : « Ne vous attendez pas à la perfection. Considérez-vous comme un expérimentateur courageux confronté à une technologie de niveau science-fiction. Si vous gardez l’esprit ouvert, vous pourriez être agréablement surpris par ce que vous découvrirez.

Mais ce n’est pas ainsi que fonctionnent les utilisateurs. Ils veulent des réponses des robots : comment vas-tu maintenant ? Peux-tu me pardonner ? Ou : Votre mort était-elle un accident ou vous êtes-vous suicidé ?

Matthias Meitzler, sociologue qui étudie la mort et la technologie à l’université de Tübingen, déclare : « La plupart des gens sont conscients qu’ils ont affaire à une imitation virtuelle. » Néanmoins, ils pourraient prendre à cœur les réponses des robots. « L’humain est capable de toutes sortes de projections. Nous donnons vie à des choses inanimées.
Plus une expérience est immersive, plus ce risque est grand.

Une Coréenne rencontre sa fille décédée en 3D

Il y a quatre ans, une vidéo a fait le tour du monde dans laquelle une femme « rencontrait » sa fille décédée. Les créateurs de l’émission de téléréalité coréenne « Meeting You » ont recréé la jeune fille sous forme d’animation 3D. La maman enfile un casque de réalité virtuelle et des gants high-tech pour rencontrer l’avatar.

En tant que spectateur, vous voyez ce que voit la mère : la fille court joyeusement vers elle et lui dit : « Maman, où étais-tu ? Tu m’as beaucoup manqué.” Le monde virtuel est comme un film Disney. La mère sanglote, veut la serrer dans ses bras – et la traverse.

Le montage en studio est horrible. Une femme seule, à moitié cachée par de grandes lunettes VR, parle dans le vide en sanglotant et tend la main vers quelqu’un qui n’est pas là. Plus de 36 millions de personnes ont vu la vidéo sur YouTube.

Les cinéastes de « Eternal You » ont demandé à la femme ce qu’elle ressentait à propos de la rencontre d’aujourd’hui. Elle parle des sentiments de culpabilité envers sa fille qui la tourmentaient : parce qu’elle n’a pas pu la sauver de sa maladie ; parce qu’elle l’avait grondé peu avant sa mort. Dans ses rêves, sa fille se comportait froidement, comme si elle était en colère contre sa mère. Après avoir rencontré l’Avatar, elle n’a plus jamais rêvé de sa fille.

Le sociologue Meitzler connaît des histoires similaires. Pour certaines personnes, la technologie les aide à mener à bien leurs activités. “Peut-être que j’aimerais revoir ce visage, même s’il est généré artificiellement, pour enlever quelque chose de ma poitrine et faire résonner cette voix.”

Le défunt vit pratiquement aussi longtemps que l’abonnement est payé

Cependant, le fait que les gens utilisent la technologie pour clôturer ou pour nier la mort dépend beaucoup de la manière dont elle est conçue. Dès le début, le spectacle coréen était une expérience unique. D’autres sociétés souhaitent proposer des avatars que vous pouvez visiter tous les jours.

L’entrepreneur Justin Harrison promet à ses clients qu’ils peuvent rester en contact avec leurs proches, « peu importe à quelle distance ils se trouvent ». Sa société « You, Only Virtual » autorise actuellement les chats et les appels, et des appels vidéo et des réunions en réalité virtuelle sont prévus pour l’avenir. Harrison compare sa technologie à la réanimation, comme moyen de cesser d’accepter la mort.

Project December et « You, Only Virtual » vendent des abonnements. Ils ont intérêt à ce que leurs utilisateurs n’arrêtent pas d’utiliser l’IA, mais y reviennent encore et encore.

Vous pourriez également vous sentir coupable si vous désactivez l’assistant virtuel. On sait déjà que les gens se sentent mal à l’idée de blesser des robots ou d’ignorer des personnalités IA complètement inventées. Et si l’usurpation d’identité d’une personne décédée ne demandait pas d’être effacée ?

Meitzler considère également que le fait que la plupart de ces imitations d’IA soient actuellement réalisées sans le consentement des personnes représentées constitue également un problème éthique : « Je ne peux plus demander à mon grand-père décédé si je peux créer une version IA de lui. Il sera d’autant plus important à l’avenir que les gens se parlent à un stade précoce de leur patrimoine numérique et de leurs souhaits y afférents. Si quelqu’un ne veut pas continuer à exister numériquement, il faut le respecter.

La vraie mémoire se mélange à ce que dit l’IA

Les moins nocifs de tous les programmes d’IA en matière de deuil sont probablement ceux comme Here After et Story File. Ces programmes aident les vivants à raconter et à préserver leurs histoires. Ils proposent des questions prédéterminées et des invites narratives. Une archive numérique est créée à partir des réponses réelles de la personne qui peuvent ensuite être interrogées de manière interactive.

Aucune nouvelle réponse ne sera générée. L’IA est utilisée uniquement pour trouver les réponses appropriées aux questions contenues dans le matériel vidéo. Si les proches remettent en question les archives numériques d’une personne après son décès, seules les déclarations réellement faites sont reproduites. Dans d’autres programmes, cependant, la personne réelle se mêle à la simulation de l’IA. Et elle peut se comporter d’une manière que le défunt n’aurait jamais fait.

Le sociologue Meitzler déclare : « Beaucoup de gens trouvent inconfortable l’idée que les souvenirs personnels puissent être manipulés par un système artificiel. »

Christi Angel a finalement réussi à obtenir un rapport plus rassurant de son AI Cameroun en posant des questions. Il lui a assuré qu’il était dans un meilleur endroit maintenant. «Je voudrais être sûre qu’il va bien», dit-elle aux cinéastes en larmes.

Un article du «»