Les risques de l’IA dans les soins de santé sont révélés

L’IA est une nouvelle frontière et peut être potentiellement extrêmement utile dans le domaine des soins de santé. Rassembler toutes les informations connues pour résoudre un problème pourrait profiter à beaucoup. Mais l’IA a un côté obscur, que beaucoup ont prédit. En matière d’assurance maladie et de refus de soins aux patients, AI a déjà déclenché un recours collectif.

Comme indiqué dans Avantages ALM Pro, un recours collectif a été déposé contre UnitedHealthcare, l’un des plus grands assureurs Medicare Advantage Plan, pour avoir utilisé l’intelligence artificielle dans un algorithme qui a refusé à tort des soins à de nombreuses personnes. Citant l’introduction de ce procès, les plaignants allèguent :

« Ce recours collectif putatif découle du déploiement illégal par les défendeurs de l’intelligence artificielle (IA) à la place de vrais professionnels de la santé pour refuser à tort aux patients âgés les soins qui leur sont dus dans le cadre des plans Medicare Advantage en annulant les déterminations de leurs médecins traitants quant aux soins médicalement nécessaires sur la base de un modèle d’IA dont les accusés savent qu’il a un taux d’erreur de 90 %.

Les plaignants allèguent également que la technologie permet à l’entreprise de « refuser de manière agressive la couverture, car ils savent qu’ils ne seront pas tenus responsables de refus injustifiés ». Les personnes qui se voient refuser des soins sont généralement des personnes âgées, selon la plainte, et seule une infime minorité résistera à un refus injustifié.

Le problème des appels

Il n’y a rien de nouveau à ce que les assureurs ignorent les recommandations de soins du médecin traitant du patient. Avec les refus traditionnels de Medicare, il existe un processus réglementé pour faire appel d’un refus. Par expérience personnelle, nous savons que lorsqu’un refus injuste de paiement par Medicare se produit et qu’il existe une possibilité de présenter la preuve du besoin du patient de payer la facture de soins contestée, il existe une chance raisonnable d’obtenir le paiement. La décision est prise par un conseiller-auditeur indépendant et non par l’assureur. Avec les plans Medicare Advantage, ce processus n’est pas aussi clair et ceux qui ont besoin de soins de longue durée dans une maison de retraite, par exemple, peuvent ne pas avoir les moyens de faire appel. Le recours collectif allègue que UnitedHealthcare le sait et utilise délibérément l’algorithme pour refuser des soins. Aucune de ces allégations n’est encore prouvée. Le litige aboutira finalement à un verdict ou à un règlement. Nous ne pouvons pas encore savoir comment cela va se passer. Mais ce n’est pas le premier procès jamais intenté pour quelque chose faisant appel à l’intelligence artificielle.

Il est probablement inévitable que les risques liés à une utilisation largement non réglementée de l’IA se révèlent de plus en plus, comme l’ont prévenu certains créateurs de cette technologie. Lorsqu’il s’agit de préjudices causés à nos aînés vulnérables, le procès est un signal très inquiétant indiquant que nous avons besoin de réglementations sur l’IA dans la couverture des soins de santé. L’issue du recours collectif est inconnue. Et le fait que l’affaire soit désormais portée devant les tribunaux est connu et mérite toute notre attention.

Une très forte promotion des plans Medicare Advantage a lieu chaque année dans les médias pendant la période d’inscription ouverte entre octobre et début décembre. Personne ne prévient le client potentiel qu’une entreprise ou une autre qui souhaite vendre son plan à des millions de personnes pourrait avoir inventé un moyen effrayant pour s’assurer que peu de gens bénéficient de l’un des avantages qu’ils sont censés offrir. Les soins prolongés dans un centre de réadaptation après une hospitalisation font partie de ces avantages. Si les plaignants obtiennent gain de cause dans ce recours collectif, l’utilisation de l’IA dans le développement d’algorithmes permettant de déterminer si les soins de santé sont couverts ou non changera probablement.

Plaidoyer pour un aîné en cure de désintoxication

Dans un exemple concret, une cliente d’AgingParents.com nous a demandé conseil concernant un plan de sortie pour son mari âgé qui avait été hospitalisé après un accident vasculaire cérébral. L’établissement qui prodiguait les soins a menacé de renvoyer le mari dans un bref délai sans qu’il y ait de rééducation en cours. Il avait besoin d’une thérapie physique et orthophonique continue, car il faisait des progrès. L’établissement, financé par Medicare, voulait interrompre sa rééducation et lui refuser des soins supplémentaires. Une bagarre s’est ensuivie et l’épouse a dû faire appel du refus de poursuite du traitement auprès de Medicare. Cette épouse était bien éduquée, affirmée et tout à fait capable de résister et de faire appel du refus imminent. Nous lui avons offert des conseils sur la façon de défendre les intérêts de son mari et elle les a utilisés. Son séjour et sa thérapie se sont poursuivis. Mais c’était un cas inhabituel. L’épouse du patient n’était ni âgée, ni fragile, et n’avait pas peur de faire valoir les droits de son mari dans le système hospitalier et dans Medicare. Pour beaucoup d’autres, comme le décrit le recours collectif, il n’y aurait pas d’appel et la personne âgée ayant besoin de soins n’en bénéficierait pas. Trop de personnes âgées et les membres de leur famille sont intimidés par la décision de l’hôpital ou de l’établissement de soins de refuser des soins et ne savent pas quoi faire. Les soins dont ils ont besoin et qu’ils souhaitent, appuyés par les recommandations du médecin, ne leur sont pas dispensés.

Les plats à emporter :

Si vous ou un aîné de votre famille bénéficiant de Medicare envisagez de changer d’assureur pendant la période d’inscription ouverte, examinez très attentivement la fréquence à laquelle l’assureur refuse des soins et les informations qu’il fournit sur la procédure d’appel en cas de refus de couverture. Ils devraient révéler ce qu’implique le processus d’appel si vous leur posez des questions à ce sujet. Vous pouvez demander à quelle fréquence l’autorisation de soins de leur entreprise est refusée et comment les refus de soins par leur intermédiaire font l’objet d’un appel. Vous pouvez demander combien de temps prennent normalement les appels. Mais les vendeurs veulent vendre leur produit et ne sont peut-être pas en mesure de répondre à ces questions importantes. Méfiez-vous si le représentant de l’assureur ne répond pas ou ne peut pas répondre lorsque vous lui posez des questions sur ces précisions.

Des refus de soins se produisent. Ils ne devraient jamais l’être à 90 % du temps lorsqu’il s’agit de problèmes de soins prolongés et d’ignorer les recommandations des médecins traitants concernant le traitement dont un proche a besoin. Tenez compte du procès décrit ici. L’IA peut en déclencher davantage jusqu’à ce que notre législature trouve comment la réglementer dans le secteur de l’assurance et dans d’autres secteurs de notre société.