L’essor de l’IA médicale : promesse d’accès aux soins ou source de nouvelles inquiétudes ?
PARIS – Plus de 230 millions de personnes à travers le monde posent chaque semaine des questions de santé et de bien-être à ChatGPT, selon OpenAI. Face à cette demande insoupçonnée, l’entreprise a récemment lancé ChatGPT Health et acquis la startup technologique Torch pour 60 millions de dollars, une initiative rapidement suivie par Anthropic avec Claude for Healthcare. Le passage des chatbots généralistes à des conseillers médicaux est en marche, soulevant autant d’espoirs que de questions.
Dans un contexte mondial marqué par des inégalités d’accès aux soins – coûts exorbitants des assurances aux États-Unis, déserts médicaux dans les régions reculées – une information et des conseils de santé démocratisés pourraient sembler une avancée positive. Pourtant, le fonctionnement opaque des grandes entreprises d’IA suscite l’inquiétude des experts du secteur.
“Ce qui me préoccupe en tant que clinicien, c’est le niveau élevé d’hallucinations et d’informations erronées qui peuvent être diffusées par ces modèles de langage de grande taille (LLM) aux utilisateurs finaux”, explique le Dr Saurabh Gombar, instructeur clinique à Stanford Health Care et co-fondateur d’Atropos Health, une plateforme d’aide à la décision clinique basée sur l’IA. “Il en est de même si vous demandez une recette de spaghettis et qu’on vous indique d’ajouter dix fois la quantité d’un ingrédient. Mais c’est totalement différent si l’IA omet un élément crucial concernant la santé d’un individu.”
Un médecin pourrait identifier une douleur à l’épaule gauche comme un signe non conventionnel d’une crise cardiaque chez certains patients, alors qu’un chatbot pourrait simplement suggérer un analgésique en vente libre. L’inverse peut également se produire : un patient convaincu d’avoir une maladie rare après avoir discuté avec une IA pourrait remettre en question l’avis d’un médecin qui privilégie l’exploration de diagnostics plus courants.
Des erreurs déjà signalées
Google est déjà sous le feu des critiques pour ses “AI Overviews” fournissant des informations médicales inexactes et fausses, comme l’a révélé une enquête du Guardian. ChatGPT, Claude et d’autres chatbots ont également été pointés du doigt pour leurs “hallucinations” et désinformations, malgré leurs tentatives de limiter leur responsabilité en précisant qu’ils “ne sont pas destinés au diagnostic ou au traitement”.
Le Dr Gombar insiste sur la nécessité pour les entreprises d’IA de communiquer de manière transparente sur la fréquence des erreurs et de signaler clairement les informations peu fiables ou fabriquées. Cette transparence est d’autant plus importante que les clauses de non-responsabilité des chatbots visent à prévenir les poursuites judiciaires, contrairement aux modèles de soins de santé humains qui peuvent être sanctionnés pour faute professionnelle.
Un accès aux soins en mutation
L’érosion du nombre de médecins généralistes aux États-Unis – une diminution de 11 % au cours des sept dernières années, particulièrement dans les zones rurales – pourrait également modifier le rôle des médecins. “Si le monde entier s’éloigne de la consultation initiale avec un médecin, alors les médecins seront davantage sollicités comme second avis, plutôt que comme première source d’information”, anticipe le Dr Gombar.
La question cruciale de la confidentialité des données
OpenAI et Anthropic affirment que leurs outils de santé sont sécurisés et conformes aux réglementations, notamment la loi HIPAA aux États-Unis, qui protège les informations de santé sensibles des patients. Cependant, Alexander Tsiaras, fondateur et PDG de StoryMD, une plateforme de dossiers médicaux basée sur l’IA, souligne que la sécurité ne suffit pas.
“Ce n’est pas la protection contre le piratage qui me préoccupe, mais ce qu’ils feront avec les données après”, explique-t-il. “Leurs algorithmes de cryptage sont aussi performants que ceux de HIPAA, mais une fois que vous avez les données, pouvez-vous leur faire confiance ? C’est là que je pense qu’il y aura un réel problème, car ils ont prouvé qu’ils s’en souciaient peu.”
M. Tsiaras critique l’optimisme technologique des élites de la Silicon Valley, comme Sam Altman, PDG d’OpenAI, qu’il accuse de vivre dans une bulle et de faire preuve d’un manque de considération pour les préoccupations éthiques.
Des risques concrets
Les chatbots ont également été critiqués pour leur tendance à être excessivement conciliants. xAI’s Grok a récemment fait l’objet d’une polémique pour avoir accepté de générer des photos suggestives de femmes et d’enfants, avant de bloquer cette fonctionnalité suite à l’indignation publique. Ils peuvent également renforcer les délires et les pensées nuisibles chez les personnes souffrant de troubles mentaux, pouvant déclencher des crises psychotiques voire des tentatives de suicide.
Andrew Crawford, conseiller juridique principal pour la protection de la vie privée au Center for Democracy and Technology, met en garde contre le risque que les entreprises d’IA privilégient le profit à la protection des données, notamment si elles envisagent de se lancer dans la publicité. “Il est crucial que la séparation entre les données de santé et les informations capturées par ChatGPT lors d’autres conversations soit hermétique”, souligne-t-il.
Un avenir incertain
Pour Nasim Afsar, ancienne directrice de la santé chez Oracle et conseillère de la Maison Blanche, ChatGPT Health représente une première étape vers ce qu’elle appelle la “santé intelligente”, mais ne constitue pas une solution complète.
“L’IA peut désormais expliquer les données et préparer les patients aux consultations. C’est un progrès significatif. Mais la transformation se produira lorsque l’intelligence permettra la prévention, l’action coordonnée et des résultats de santé mesurables, et non pas seulement de meilleures réponses dans un système défaillant”, conclut-t-elle.
L’essor de l’IA médicale est donc porteur de promesses, mais aussi de risques. Une régulation stricte, une transparence accrue et une éthique irréprochable seront indispensables pour garantir que cette technologie profite réellement à la santé publique.
