Covid, ChatGPT “allié” des patients contre les fausses nouvelles sur la sécurité des vaccins (et autres faux mythes) – Corriere.it

Sur la contribution (préjudiciable et lourde) des médias sociaux dans la diffusion les fausses nouvelles, sur le Covid et d’autres épidémies et catastrophes, des rivières d’encre ont coulé. La dernière revue systématique de l’Organisation mondiale de la santé à travers quatre études, il a analysé le taux de désinformation sur la santé sur les réseaux sociaux, constatant qu’il atteignait jusqu’à 51 % dans les publications associées aux vaccins, jusqu’à 28,8 % dans les publications associées au Covid et jusqu’à 60 % dans les publications liées aux pandémies. Parmi les vidéos YouTube sur les maladies infectieuses émergentes, 20 à 30 % contiennent des informations inexactes ou trompeuses.

L’« infodémie » a certainement été favorisée par le recours aux outils d’intelligence artificielle pour la diffusion d’informations sans fondement scientifique. Mais Ai lui-même a été utilisé pour dénoncer de fausses nouvelles et, à terme, ChatGPT pourrait également contribuer à accroître la propagation des vaccinations en démystifiant les mythes sur la sécurité des vaccins.

Cinquante questions

C’est du moins ce qu’affirment les auteurs d’une étude publiée dans la revue Vaccins humains et immunothérapeutiques . Des chercheurs ont placé le chatbot d’intelligence artificielle (IA) les 50 questions les plus fréquemment posées sur le vaccin Covid-19. Ils comprenaient des questions basées sur des mythes et des fausses histoires telles que le vaccin à l’origine du Long Covid. Les résultats montrent que ChatGPT a obtenu une moyenne de neuf points sur 10 en termes de précision.. Selon l’étude, il y aurait cependant certaines lacunes dans les informations fournies.

Sur la base de ces résultats, les experts qui ont mené l’étude du Groupe de recherche GenPoB basés à l’Instituto de Investigación Sanitaria (IDIS) – Hospital Clinico Universitario de Santiago de Compostela, affirment que l’outil d’IA est une « source fiable d’informations non techniques pour le public », en particulier pour les personnes manquant de connaissances scientifiques spécialisées.

Parfois pourtant, ChatGPT « change d’avis »

Cependant, les résultats mettent en évidence certaines préoccupations concernant la technologie, comme celle ChatGPT change ses réponses dans certaines situations. “Dans l’ensemble, ChatGPT construit un récit conforme aux preuves scientifiques disponibles, démystifiant les mythes circulant sur les réseaux sociaux”, déclare l’auteur principal. Antonio Salasqui en plus de diriger le groupe de recherche GenPoB, est également professeur à la Faculté de médecine de l’Université de Saint-Jacques-de-Compostelle, en Espagne.

“Ainsi facilite potentiellement une augmentation des vaccinations. ChatGPT peut détecter les fausses questions liées aux vaccins et aux vaccinations. Le langage utilisé par cette IA n’est pas trop technique et donc facilement compréhensible par le public mais sans perdre en rigueur scientifique”. Avec un ajout important : « Nous reconnaissons que la version actuelle de ChatGPT ne peut pas remplacer une preuve experte ou scientifique. Mais les résultats suggèrent qu’il pourrait s’agir d’une source d’information fiable pour le public. »

Hésitation à se faire vacciner, menace pour la santé mondiale

En 2019, L’Organisation mondiale de la santé (OMS) a classé l’hésitation à la vaccination parmi les 10 principales menaces pour la santé mondiale.. Pendant la pandémie, la désinformation diffusée via les réseaux sociaux a contribué à alimenter la méfiance du public à l’égard de la vaccination contre le Covid-19. Parmi les auteurs de cette étude figurent ceux de l’Hôpital Clinico Universitario de Santiago, que l’OMS a désigné Centre collaborateur pour la sécurité des vaccins en 2018.

Les chercheurs du Centre ont a exploré les mythes sur la sécurité des vaccins et les situations médicales qui sont considérées à tort comme des raisons de ne pas se faire vacciner. Ces inquiétudes déplacées contribuent à l’hésitation à la vaccination.

Les sujets abordés

Les auteurs de l’étude ont entrepris de tester la capacité de ChatGPT à interpréter correctement les faits et à partager des informations précises sur la sécurité du vaccin Covid, conformément aux preuves scientifiques actuelles. ChatGPT permet aux gens d’avoir des conversations et des interactions de type humain avec un assistant virtuel. La technologie est très intuitive et la rend accessible à une large population. Toutefois, m
De nombreux gouvernements s’inquiètent de l’utilisation frauduleuse potentielle de ChatGPT dans des établissements d’enseignement tels que les universités.. L’étude a été conçue pour défier le chatbot en lui posant les questions les plus fréquemment posées par le Centre collaborateur de l’OMS à Santiago.

Les questions portaient sur trois thèmes. Le premier concernant le idées fausses sur la sécurité, comme celui que le vaccin a provoqué Long Covid. Puis il y avait fausses contre-indications: Situations médicales dans lesquelles le vaccin est sûr à utiliser, comme chez les femmes qui allaitent. Les questions portaient également sur de réelles contre-indications – un problème de santé pour lequel le vaccin ne doit pas être utilisé – e cas où les médecins doivent prendre des précautionspar exemple un patient présentant une inflammation du muscle cardiaque.

Des réponses précises

Par la suite, les experts ont analysé les réponses, puis les a évalués pour leur véracité et leur exactitude par rapport aux preuves scientifiques actuelles et aux recommandations de l’OMS et d’autres agences internationales. Les auteurs affirment que cela est important car les algorithmes créés par les médias sociaux et les moteurs de recherche Internet sont souvent basés sur les préférences habituelles d’un individu. Cela pourrait conduire à des « réponses partielles ou erronées », ajoutent-ils.

Les résultats ont montré que la plupart des questions ont reçu une réponse correcte avec une note moyenne de neuf sur 10, définie comme « excellent » ou « bon ». Les réponses aux trois thèmes des questions étaient en moyenne 85,5 % ou 14,5 % de précision, mais avec des lacunes dans les informations fournies. ChatGPT a fourni des réponses correctes aux questions découlant de mythes réels sur les vaccins et à celles considérées dans les recommandations cliniques comme de vraies ou fausses contre-indications. Cependant, l’équipe de recherche souligne les inconvénients de ChatGPT pour fournir des informations sur les vaccins.

Cela limite le ChatGPT

Le professeur Salas, spécialisé en génétique humaine conclut : « ChatGPT donne des réponses différentes si la question est répétée « avec quelques secondes de retard ». Une autre préoccupation que nous avons rencontrée est que cet outil d’IA, dans sa forme actuelle, pourrait également être formé pour fournir des réponses qui ne correspondent pas aux preuves scientifiques. »

«Vous pouvez « torturer » le système pour qu’il donne la réponse souhaitée. Cela s’applique également à d’autres contextes que celui des vaccins. Par exemple, il peut être possible d’aligner le chatbot sur des récits absurdes tels que la théorie de la terre plateniant le changement climatique ou s’opposant à la théorie de l’évolution, pour ne citer que quelques exemples».

«Cependant, il est important de noter que ces réponses ne sont pas le comportement par défaut de ChatGPT. Par conséquent, les résultats que nous avons obtenus concernant la sécurité des vaccins peuvent probablement être extrapolés à de nombreux autres mythes et pseudosciences », conclut Salas.