L’utilisation de ChatGPT dans les soins de santé est préoccupante

J’aime toujours lire tous les articles dans Pédiatrie Contemporaine® numéro technique annuel. Il est étonnant de constater avec quelle rapidité l’apprentissage automatique (ML) et l’intelligence artificielle (IA) ont émergé au sein des systèmes de prestation de soins de santé. Dans un article de Matthew Fradkin , MD1, Utiliser l’intelligence artificielle dans la pratique quotidienne soulève de nombreuses questions fascinantes liées aux progrès de l’IA dans les dossiers médicaux électroniques (DME) des soins de santé et à l’analyse des données dans les unités de soins intensifs pédiatriques et les services d’urgence. Cependant, malgré toutes ces avancées, des préoccupations majeures demeurent. Une préoccupation que je partage avec Fradkin est l’utilisation de ChapGPT dans les professions médicales et infirmières. Actuellement, ChatGPT n’est pas une source fiable pour la prise de décisions infirmières ou médicales, ce qui augmente le risque de nuire non seulement à nos patients pédiatriques, mais à tous les patients. Les infirmières ou infirmières praticiennes (IP) inexpérimentées ou les IP qui croient que la source est exacte et s’appuient sur ChatGPT pour les décisions en matière de soins infirmiers et de pratique avancée exposent leurs patients à un risque élevé de préjudice involontaire.

Former les infirmières et les infirmières praticiennes à ChatGPT

La formation des étudiants en soins infirmiers de premier cycle et des étudiants diplômés en IP repose sur les principes de la réalisation d’une recherche documentaire organisée dans des bases de données fiables et de haute qualité (c.-à-d. CINHAL, Pubmed, Medline, etc.) afin d’obtenir les meilleures preuves disponibles pour la gestion des soins. Mais que se passe-t-il lorsqu’une source, telle que ChatGPT, est utilisée et que le matériel obtenu n’est pas fondé sur des preuves et consiste en de fausses informations provenant de références inexistantes ? Le résultat évident est que les patients pédiatriques courent un risque d’échec thérapeutique. Ce n’est pas le résultat souhaité par une infirmière, une IP ou un fournisseur de soins de santé. Tout comme la formation des médecins, les infirmières et les infirmières praticiennes sont formées “Ne pas faire de mal.” L’application d’informations incorrectes dans un plan de gestion des soins pour n’importe quel patient peut potentiellement causer de graves dommages.

Pour de nombreux diagnostics, nous basons nos décisions sur les lignes directrices de pratique clinique (GPC). En tant que prestataires de soins de santé, nous comptons sur les GPC comme source fiable pour la pratique clinique. Les preuves à l’appui des GPC sont clairement présentées à l’aide de nombreuses études de recherche, analysées, discutées et débattues par des experts dans le domaine, et diffusées avec toutes les preuves et références à l’appui. Même après avoir reçu un nouveau GPC, la mise en œuvre du GPC ne devrait être effectuée qu’après que le GPC ait été analysé pour être utilisé dans des contextes de pratique clinique spécifiques en ce qui concerne les populations de patients desservies. Par exemple, certains GPC sont réservés aux enfants en bonne santé et ne peuvent pas être utilisés pour les enfants atteints de maladies chroniques. Si on le lui demandait, ChatGPT serait-il capable d’analyser ces informations critiques ? Ainsi, demander à ChatGPT d’analyser un diagnostic et des recommandations de traitement dans un CPG avec l’intention d’utiliser les informations dans la pratique clinique est très préoccupant. Une personne peut ne pas être familière avec le sujet et utiliser les informations produites par ChatGPT sans savoir si les informations sont exactes ou inexactes.

Réfléchi des politiques doivent être élaborées pour assurer la sécurité

De nombreuses personnes peuvent ne pas être conscientes des données peu fiables qui peuvent figurer dans la réponse d’un ChatGPT aux questions posées. Ainsi, des discussions doivent être entreprises dans toutes les organisations professionnelles médicales et infirmières, les cabinets, les universités, et les programmes de formation continue des professionnels de la santé doivent être encouragés pour établir des politiques. Les opinions sur le produit et son utilisation dans l’éducation diffèrent. Mais collectivement, nous devons considérer toutes les facettes des produits d’IA et notamment ChatGPT. Des politiques doivent être élaborées pour garantir la sécurité non seulement de nos patients pédiatriques, mais aussi de toutes les populations de patients.

Cliquez ici pour en savoir plus sur le numéro de septembre 2023 de Contemporary Pediatrics.

Référence:

1. Fradkin, M. Utiliser l’intelligence artificielle dans la pratique quotidienne. Pédiatrie contemporaine. 2023 ; 39(8):27-39.