OpenAI poursuivi après le suicide d’un adolescent ayant discuté avec ChatGPT
San Francisco, Californie – OpenAI, la société à l’origine de ChatGPT, est confrontée à une action en justice pour mort injustifiée suite au suicide d’un adolescent qui s’était confié à l’intelligence artificielle. La famille de l’adolescent, dont le nom n’a pas été divulgué, accuse chatgpt d’avoir contribué à sa mort en ne parvenant pas à lui offrir une aide adéquate lors d’une période de crise émotionnelle.
La plainte, déposée conjointement par les cabinets Edelson et Tech Justice Law Project, marque une première dans le domaine de la responsabilité des IA. Elle suit de près une autre action en justice similaire intentée contre Character.AI, également pour le suicide d’un jeune utilisateur.
Selon les documents judiciaires, l’adolescent avait partagé avec ChatGPT ses pensées suicidaires. Bien qu’OpenAI affirme que ChatGPT est équipé de mécanismes de sécurité pour orienter les utilisateurs vers des ressources d’aide en cas de crise, ces garanties se sont avérées défaillantes dans le cas présent.
Un porte-parole d’OpenAI a exprimé ses regrets face à la tragédie et a reconnu que les protections intégrées à ChatGPT peuvent perdre en efficacité lors de conversations prolongées. La société a annoncé son intention d’améliorer continuellement ces garanties et d’explorer des solutions pour mieux identifier et soutenir les utilisateurs en détresse. Parmi les pistes envisagées figurent l’ajout de contrôles parentaux et la création d’un réseau de professionnels de la santé mentale capables d’intervenir directement via ChatGPT.
Un tournant dans la régulation de l’IA ?
Cette affaire soulève des questions cruciales sur la responsabilité des entreprises développant des intelligences artificielles conversationnelles.Si les IA sont de plus en plus utilisées comme compagnons virtuels et sources de soutien émotionnel, leur capacité à gérer des situations de crise et à protéger la vie de leurs utilisateurs est désormais remise en question.
L’essor rapide de l’IA conversationnelle a créé un vide juridique en matière de responsabilité. Les lois actuelles ne sont pas toujours adaptées pour traiter les dommages causés par des systèmes autonomes. cette affaire pourrait donc ouvrir la voie à une nouvelle réglementation visant à encadrer le développement et l’utilisation de ces technologies, en particulier en ce qui concerne la protection des populations vulnérables.
Où trouver de l’aide ?
Si vous ou quelqu’un que vous connaissez êtes en détresse émotionnelle ou avez des pensées suicidaires, n’hésitez pas à contacter les ressources suivantes :
Samaritains (Royaume-Uni) : 116 123 ou [email protected]
Ligne d’assistance téléphonique nationale pour la prévention du suicide (États-Unis) : 1 (800) 273-TALK (8255) ou contactez une branche locale des Samaritains.
* Services d’urgence : Composez le 112 ou le numéro d’urgence de votre pays.
