Les recréations numériques de personnes décédées nécessitent une réglementation urgente, disent les éthiciens de l’IA | Intelligence artificielle (IA)

Intelligence artificielle (IA)

Craint que les « robots morts » pourraient causer des dommages psychologiques à leurs créateurs et utilisateurs ou les « hanter » numériquement

jeu. 9 mai 2024 02h00 CEST

Les recréations numériques de personnes décédées sont à l’aube de la réalité et ont besoin d’une réglementation urgente, affirment les éthiciens de l’IA, avertissant que les « robots morts » pourraient causer des dommages psychologiques, voire « hanter », leurs créateurs et utilisateurs.

De tels services, qui sont déjà techniquement possibles à créer et légalement autorisés, pourraient permettre aux utilisateurs de télécharger leurs conversations avec des proches décédés pour « ramener grand-mère à la vie » sous la forme d’un chatbot, suggèrent des chercheurs de l’Université de Cambridge.

Ils peuvent être commercialisés auprès de parents atteints de maladies en phase terminale qui souhaitent laisser quelque chose derrière eux avec lequel leur enfant pourra interagir, ou simplement vendus à des personnes encore en bonne santé qui souhaitent cataloguer toute leur vie et créer un héritage interactif.

Mais dans chaque cas, des entreprises sans scrupules et des pratiques commerciales irréfléchies pourraient causer des dommages psychologiques durables et manquer fondamentalement de respect aux droits des défunts, affirme le journal.

“Les progrès rapides de l’IA générative signifient que presque toute personne ayant accès à Internet et possédant des connaissances de base peut ressusciter un être cher décédé”, a déclaré le Dr Katarzyna Nowaczyk-Basińska, l’un des co-auteurs de l’étude au centre Leverhulme de Cambridge pour l’avenir de l’intelligence (LCFI). ).

« Ce domaine de l’IA est un champ de mines éthique. Il est important de donner la priorité à la dignité des défunts et de veiller à ce qu’elle ne soit pas empiété par des motivations financières liées aux services numériques d’au-delà, par exemple.»

L’un des risques concerne les entreprises qui monétisent leurs anciens services numériques par le biais de la publicité. Les utilisateurs d’un tel service pourraient être choqués lorsque leur proche recréé numériquement commencera à leur suggérer de commander des plats à emporter plutôt que de cuisiner à partir de rien, suggère le journal, ce qui les amènera à réaliser inconfortablement qu’ils n’ont pas été consultés sur la question de savoir si leurs données pourraient être utilisées dans de telle sorte.

Des résultats bien pires sont possibles lorsque les utilisateurs de ces services sont des enfants. Les parents qui souhaitent aider leurs enfants à faire face à la perte d’un père ou d’une mère pourraient bientôt se tourner vers les robots morts.

Mais il existe peu de preuves qu’une telle approche soit psychologiquement utile, et beaucoup suggèrent qu’elle pourrait causer des dommages importants en court-circuitant le processus normal de deuil.

« Aucun service de récréation ne peut prouver que permettre aux enfants d’interagir avec des « robots morts » est bénéfique ou, à tout le moins, ne nuit pas à ce groupe vulnérable », prévient le journal.

Pour préserver la dignité des morts ainsi que le bien-être psychologique des vivants, les chercheurs suggèrent une série de bonnes pratiques dont l’application peut même nécessiter une réglementation.

De tels services devraient par exemple disposer de procédures permettant de « retirer » avec sensibilité les robots morts, et limiter leurs fonctionnalités interactives aux adultes uniquement, tout en étant très transparents sur leur fonctionnement et les limites de tout système artificiel.

L’idée d’utiliser un système d’IA de type ChatGPT pour recréer un être cher décédé n’est pas de la science-fiction. En 2021, Joshua Barbeau a fait la une des journaux après avoir utilisé GPT-3 pour créer un chatbot qui parlait avec la voix de sa petite amie décédéeet six ans auparavant, la développeur Eugenia Kuyda a converti les messages texte d’un de ses amis proches en un chatbot, ce qui a finalement conduit à la création d’un chatbot populaire. Application compagnon IA Replika.

La technologie s’étend également au-delà des chatbots. En 2021, le site de généalogie MyHeritage introduit Deep Nostalgia, une fonctionnalité qui créait des vidéos animées des ancêtres des utilisateurs à partir de photos fixes. Après que la fonctionnalité soit devenue virale, la société a admis que certains utilisateurs « la trouvent effrayante ».

« Les résultats peuvent être controversés et il est difficile de rester indifférent à cette technologie », avait alors déclaré MyHeritage. « Cette fonctionnalité est destinée à un usage nostalgique, c’est-à-dire à redonner vie à des ancêtres bien-aimés. Nos vidéos de chauffeurs n’incluent pas de discours afin d’éviter les abus, comme la création de vidéos ‘deep fake’ de personnes vivantes.

Un an plus tard, MyHeritage a introduit DeepStory, qui permettait aux utilisateurs de générer des vidéos parlantes.

{{#téléscripteur}}

{{en haut à gauche}}

{{en bas à gauche}}

{{en haut à droite}}

{{en bas à droite}}

{{#goalExceededMarkerPercentage}}{{/goalExceededMarkerPercentage}}{{/ticker}}

{{titre}}

{{#paragraphes}}

{{.}}

{{/paragraphes}}{{highlightedText}}
{{#choiceCards}}

UniqueMensuelAnnuel

Autre

{{/choiceCards}}Nous vous contacterons pour vous rappeler de contribuer. Recherchez un message dans votre boîte de réception en . Si vous avez des questions sur la contribution, veuillez nous contacter.
2024-05-09 03:00:00
1715213792


#Les #recréations #numériques #personnes #décédées #nécessitent #une #réglementation #urgente #disent #les #éthiciens #lIA #Intelligence #artificielle