L’IA dans la santé ? Nous avons besoin d’un cadre réglementaire

Le Garant a publié un décalogue pour la création de services de santé basés sur l’intelligence artificielle qui définit quelques concepts clés et fixe les limites de l’utilisation de ces technologies.

Dans le document de quatorze pages, le Garant, rappelant un avis déjà exprimé pour l’Agence des Revenus et une série de considérations/recommandations tant au niveau national qu’européen, établit deux principes fondamentaux :

• Celui pour le traitement des données utilisant les technologies d’intelligence artificielle”il faut qu’ils soient prévus par un cadre réglementaire spécifique»
• Qu’une analyse d’impact sur la protection des données est toujours nécessaire comme l’exige l’article 35 du règlement qui indique que “lorsqu’un type de traitement, notamment lorsqu’il implique le recours à de nouvelles technologies, compte tenu de la nature, de l’objet, du contexte et des finalités du traitement, peut présenter un risque élevé pour les droits et libertés des personnes physiques»

Par ailleurs, le Garant exprime également son avis sur trois autres principes spécifiques à l’IA :

1. Le principe de connaissanceselon lequel l’intéressé a le droit de connaître l’existence de processus décisionnels basés sur un traitement automatisé et, dans ce cas, de recevoir des informations significatives sur la logique utilisée, afin de pouvoir la comprendre ;

2. le principe de non-exclusivité de la décision algorithmiqueselon lequel il doit toujours y avoir une intervention humaine dans le processus de prise de décision capable de contrôler, valider ou refuser la décision automatique (dite humaine dans la boucle) ;
3. le principe de non-discrimination algorithmiqueselon lequel il convient que le responsable du traitement utilise des systèmes d’IA fiables qui réduisent les opacités et les erreurs dues à des causes technologiques et/ou humaines, en vérifiant périodiquement
   l’efficacité également à la lumière de l’évolution rapide des technologies utilisées, des procédures mathématiques ou statistiques appropriées de profilage, par la mise en œuvre de mesures techniques et organisationnelles adéquates.

Considérations et implications

Il n’est pas clair, du moins pour le soussigné, si le décalogue s’applique uniquement aux services nationaux assurés par les Organismes centraux ou s’il concerne n’importe quel organisme, y compris les Régions et les entreprises de santé. La nécessité d’une évaluation d’impact concerne certainement chaque propriétaire.

La nécessité d’un cadre réglementaire pourrait bloquer ou ralentir certaines initiatives comme, par exemple, l’appel d’offres Agenas pour la plateforme d’IA pour les soins primaires dont j’ai parlé ici.

Concernant les principes spécifiques, le document soulève certaines considérations. Le droit de l’intéressé de connaître l’existence de processus décisionnels basés sur l’intelligence artificielle et, en particulier, de recevoir des informations sur la logique utilisée, afin de pouvoir la comprendre, pourrait être très difficile à appliquer dans la pratique, compte tenu de la complexité des technologies et des modèles sur lesquels elles reposent. D’après mon expérience d’enseignant dans une faculté de médecine, je peux vous dire que la leçon sur l’IA est la plus difficile de mon cours malgré mes efforts pour la rendre simple et accessible à tous les étudiants.

Même le principe de non-exclusivité de la prise de décision algorithmique pourrait remettre en cause l’utilité même de l’IA dans certains secteurs. Pensez par exemple au profilage des patients basé sur le risque clinique. La validation manuelle de chaque décision, c’est-à-dire la classification, peut s’avérer peu pratique.

Je me demande quelles connaissances de l’IA ont les auteurs du Décalogue et s’ils ont formulé les principes en plaçant le droit avant la faisabilité technique et opérationnelle de ce qu’ils ont établi.

Enfin, j’ai le regret de souligner comment, face à des technologies d’une telle pertinence et d’un tel impact, l’Autorité décide de définir des principes sans une discussion ouverte et élargie aux principaux acteurs du secteur, dans une logique d’autoréférentialité qui risque de ralentir ou de bloquer un domaine des technologies de l’information au potentiel énorme, hypothéquant l’avenir des soins de santé numériques.