IA : L’échelle, un défi majeur, et les hallucinations, un risque à surveiller
WASHINGTON D.C.- L’adoption rapide de l’intelligence artificielle (IA) dans divers secteurs, de la finance à la santé, soulève des questions cruciales concernant la mise à l’échelle et la fiabilité des systèmes. Des experts mettent en garde contre les risques liés aux “hallucinations” de l’IA – la tendance à inventer des informations en l’absence de données – et soulignent la nécessité d’une supervision humaine constante.
Fabio Kuhn, PDG de vortexa, une entreprise spécialisée dans l’analyze des marchés de l’énergie, insiste sur l’importance de l’explicabilité des décisions prises par l’IA. “Il est essentiel qu’un humain puisse comprendre pourquoi l’IA prend telle ou telle décision”, a-t-il déclaré. Cette transparence est devenue un aspect clé de la mise à l’échelle de l’IA, au même titre que la rapidité et la qualité des résultats.
Le secteur de la santé est particulièrement concerné. Noosheen Hashemi, fondatrice et PDG de January AI, une entreprise de soins de santé de précision, souligne que les grands modèles de langage (LLM) peuvent “halluciner avec confiance”, inventant des données en cas de manque d’informations. January AI a développé un outil, Mirror, qui affiche un taux d’hallucinations inférieur à 1 %, mais la vérification par des médecins reste indispensable.
Un obstacle majeur : le cloisonnement des données
Au-delà des risques liés aux hallucinations, le secteur de la santé aux États-Unis se heurte à un obstacle majeur : le cloisonnement des données médicales. Les informations sont dispersées entre les patients, les assureurs, les prestataires de soins et les laboratoires, ce qui entrave le potentiel de l’IA.
“Ne pas avoir une vue unifiée des données nous empêche d’exploiter pleinement l’IA”, explique Hashemi.”nous avons aujourd’hui la technologie pour éradiquer les maladies chroniques liées au mode de vie, mais la question est de savoir si nous avons la volonté de surmonter les obstacles réglementaires, les problèmes de confidentialité et les silos de données pour réellement déployer cette technologie.”
L’IA : un potentiel immense, mais une mise en œuvre prudente nécessaire
L’IA offre des perspectives révolutionnaires dans de nombreux domaines, mais son adoption à grande échelle nécessite une approche prudente et responsable. La supervision humaine, l’explicabilité des algorithmes et la résolution des problèmes de confidentialité et de partage des données sont autant de défis à relever pour garantir que l’IA soit utilisée de manière éthique et efficace.
L’avenir de l’IA dépendra de notre capacité à équilibrer innovation et sécurité,en veillant à ce que cette technologie puissante serve l’intérêt général. Le débat sur la régulation de l’IA, actuellement en cours dans de nombreux pays, est crucial pour définir les règles du jeu et garantir un développement responsable de cette technologie transformatrice.
