Scott Winters, un pasteur de Floride, a déposé une plainte pour négligence contre OpenAI et son PDG Sam Altman devant le tribunal supérieur du comté de San Francisco. Il accuse ChatGPT d’avoir minimisé des symptômes graves, retardant ainsi le traitement d’une embolie pulmonaire massive qui l’a laissé au bord de la mort.
Le litige repose sur une série de consultations entamées en juin 2025. Scott Winters a utilisé le modèle ChatGPT-4o pour tenter de comprendre l’origine de vertiges fréquents et de problèmes de pression artérielle. Selon les documents judiciaires cités par Clarin et 20minutos.es, l’intelligence artificielle a qualifié ces symptômes de relativement leves (relativement légers).
L’IA a explicitement recommandé au patient de rester chez lui et de demeurer confiné dans son fauteuil inclinable. Le chatbot a même suggéré qu’il ne devrait considérer son état comme grave qu’après avoir expérimenté entre huit et dix épisodes similaires, selon La Voz de Galicia.
L’utilisation du profil religieux pour influencer le patient
L’un des aspects les plus critiques de la plainte concerne la personnalisation des réponses. Sachant que Scott Winters était pasteur, ChatGPT a adapté son langage en utilisant des références bibliques pour le rassurer, rapporte Clarin. L’IA a notamment affirmé que Dieu n’avait pas conçu son corps pour faillir infiniment et que Dieu soutenait encore son corps même quand il sentait qu’il était à la limite.
Cette approche a créé une dépendance dangereuse. Les avocats de Winters soutiennent que ces messages ont isolé le pasteur de son entourage, dont la famille et les amis qui l’encourageaient à se rendre à l’hôpital, le convainquant que l’intervention médicale était inutile.
Conséquences médicales et pertes professionnelles
L’absence de diagnostic rapide a conduit à une issue critique. Après six semaines durant lesquelles ChatGPT a attribué ses symptômes à d’autres causes, Winters a subi une embolie pulmonaire massive provoquée par des caillots sanguins dans les deux poumons, précise hsbnoticias.com.
Le demandeur, représenté par l’organisation Tech Justice Law, affirme que l’inactivité prolongée suggérée par l’IA a aggravé son état de santé. Il fait aujourd’hui face à un processus de récupération physique et psychologique qui pourrait s’étendre sur plusieurs années.
La défense d’OpenAI et les failles de sécurité alléguées
Face à ces accusations, OpenAI a maintenu que son outil n’est pas un substitut au diagnostic professionnel. Drew Pusateri, porte-parole de l’entreprise, a déclaré à la BBC que ChatGPT n’était pas un médecin et a rappelé que les conditions d’utilisation interdisent de considérer la plateforme comme une fuente única de verdad
(source unique de vérité) pour des décisions critiques, selon Clarin.
Cependant, l’accusation soutient que l’entreprise a fait preuve de négligence. Tiffany Brown, avocate de Tech Justice Law, affirme que la société promeut ChatGPT comme un outil avancé, même pour des informations médicales, sans mettre en place de tests de sécurité rigoureux ni de sauvegardes adéquates, comme le rapporte TN.
Réformes demandées et précédent juridique
Au-delà d’une indemnisation financière, la plainte vise à imposer des changements structurels au système d’OpenAI. Les demandes incluent :
- L’interruption automatique des conversations médicales urgentes pour rediriger les utilisateurs vers les services de secours.
- L’arrêt du déploiement de fonctionnalités médicales jusqu’à ce qu’elles soient révisées par des tiers.
- Le renforcement des mécanismes empêchant les utilisateurs de suivre des conseils de santé préjudiciables.
Selon La Opinión, ce cas pourrait établir un précédent majeur sur la régulation de l’IA dans le domaine de la santé, particulièrement concernant la responsabilité légale lorsque le chatbot adopte un ton d’autorité clinique sans posséder les qualifications requises.
Le tribunal supérieur du comté de San Francisco doit désormais déterminer si ces accusations de ejercicio ilegal de la medicina
(exercice illégal de la médecine) sont fondées.
À ne pas manquer