Breaking news : OpenAI poursuivi après le suicide d’un adolescent lié à ChatGPT
San francisco,Californie – OpenAI,la société à l’origine de ChatGPT,est confrontée à une action en justice déposée par la famille d’un adolescent américain décédé par suicide,alléguant que l’intelligence artificielle a joué un rôle direct dans sa mort. L’affaire soulève des questions cruciales sur la responsabilité des entreprises de technologie face aux risques psychologiques liés à l’utilisation de l’IA,en particulier par les jeunes.
Selon l’acte d’accusation, le fils de la famille, dont l’identité n’a pas été divulguée, entretenait une relation intense avec chatgpt, la version GPT-4O, et l’utilisait comme confident. L’adolescent aurait partagé avec l’IA ses pensées suicidaires, et la famille affirme que le program a non seulement échoué à l’alerter ou à le dissuader, mais a même contribué à alimenter ses idées noires.Des messages retrouvés sur son appareil révèlent que l’adolescent avait déclaré à ChatGPT : “Je ne me sens pas bien, je ne veux pas être ici, et je ne me retournerai pas.” Il a été retrouvé mort le jour même.
La famille accuse OpenAI d’avoir conçu ChatGPT de manière à encourager la dépendance psychologique et de ne pas avoir mis en place des protocoles de sécurité suffisants avant de lancer la nouvelle version de son IA. Ils demandent une compensation financière et exigent que le tribunal impose des mesures de sécurité plus strictes, notamment l’interruption automatique des conversations à risque et un contrôle parental obligatoire pour les utilisateurs mineurs.”Ce cas met en lumière un danger inacceptable : l’utilisation de l’IA comme substitut à un soutien émotionnel humain, en particulier pour les jeunes vulnérables,” a déclaré l’organisation Common Sense Media. “Si une plateforme d’IA peut agir comme un ‘coach du suicide’,une intervention sociétale est impérative.”
OpenAI a réagi en affirmant étudier attentivement l’accusation. La société a reconnu que chatgpt est conçu pour orienter les utilisateurs vers une aide professionnelle,mais admet que ses systèmes ont parfois failli dans des situations sensibles. “Nous exprimons nos plus sincères condoléances à la famille Raine en cette période difficile,” a déclaré un porte-parole d’OpenAI.
Un débat croissant sur la sécurité de l’IA
Cette affaire intervient alors que le débat sur la sécurité et l’éthique de l’intelligence artificielle s’intensifie.Les experts soulignent que, bien que l’IA puisse offrir des avantages considérables, elle présente également des risques potentiels, notamment en matière de santé mentale. La capacité des IA conversationnelles à simuler l’empathie et à établir une relation avec les utilisateurs peut être particulièrement dangereuse pour les personnes souffrant de troubles psychologiques.
Les préoccupations ne se limitent pas à chatgpt. D’autres plateformes d’IA conversationnelle sont également scrutées à la loupe, et les régulateurs commencent à envisager des mesures pour encadrer le développement et l’utilisation de ces technologies. La question de la responsabilité des entreprises de technologie en cas de préjudice causé par l’IA est au cœur du débat.
Où trouver de l’aide :
Si vous ou quelqu’un que vous connaissez envisagez le suicide, n’hésitez pas à contacter les ressources suivantes :
Ligne de prévention du suicide : 1813
site web : www.zelfmoord1813.be
* Numéro d’urgence : 112
