Qu’apporte la loi européenne sur l’IA ? Effy Vayena dans une interview

L’UE a adopté mercredi la première loi globale sur l’intelligence artificielle. Il introduit des normes auxquelles doivent se conformer tous les produits d’IA dans les zones à haut risque, y compris les applications en matière de recrutement, d’évaluation de solvabilité, dans le système judiciaire, mais aussi dans les écoles.

Nous en avons parlé à Effy Vayena. Elle est professeur de bioéthique à l’ETH Zurich et mène des recherches sur la technologie et la gouvernance, notamment dans le domaine de la santé. En tant que déléguée à la transformation numérique et à la gouvernance, elle conseille également la direction de l’ETH dans ce domaine.

Madame Vayena, les États-Unis ouvrent la voie en matière d’innovation, l’UE en matière de réglementation. Est-ce une bonne chose pour l’Europe ?

Il n’est pas tout à fait vrai que les États-Unis n’ont aucune réglementation. Il s’y passe beaucoup de choses, le président Biden a pris un décret, les États membres ont adopté des lois. La vérité est qu’elles ne vont pas aussi loin et sont aussi larges que la loi européenne sur l’IA. Comme pour la protection des données, l’UE tente de montrer la voie et de donner le ton sur la manière dont les entreprises doivent se comporter.

Alors, la loi sur l’IA est-elle une bonne ou une mauvaise nouvelle ?

Il est bon que des tentatives soient faites pour établir des garde-corps. Mais le diable se cache dans les détails. Comment la loi est-elle appliquée, quelles normes sont établies ? Et dans quelle mesure s’intégrera-t-il aux innovations techniques à venir ? Il faudra surveiller cela.

Le texte de loi est là, pourquoi ne pouvons-nous pas encore évaluer ce qu’il signifie pour les entreprises et les consommateurs ?

Cela dépend de la manière dont les nouvelles règles seront mises en œuvre. L’UE met en place une nouvelle institution, l’AI Office. Cela traduira la loi en normes industrielles en collaboration avec les autorités et les organismes de normalisation privés. De nombreux travaux techniques détaillés sont nécessaires. Il reste à voir dans quelle mesure tout cela fonctionne. Il est clair que les entreprises doivent effectuer un travail de documentation important ; par exemple, pour certaines catégories de risques, elles doivent présenter des plans sur la manière dont elles traitent les données.

Cela représente beaucoup d’efforts pour les startups et les petites entreprises. Est-ce que cela menace la scène des startups ?

C’est un problème sérieux. L’UE en est également consciente et a promis d’être plus indulgente envers les startups. Mais je pense qu’il est difficile d’empêcher certains petits acteurs de laisser la bureaucratie les dissuader de créer une entreprise. Le secteur des dispositifs médicaux, par exemple, est déjà fortement réglementé. La nouvelle loi apporte des exigences supplémentaires. Pour les grandes entreprises disposant de suffisamment de ressources, suivre les nouvelles exigences pose moins de problèmes. Cela peut encore renforcer leur pouvoir de marché.

Toute cette bureaucratie fait-elle quelque chose pour les consommateurs ?

Je l’espère. Pour les consommateurs, une protection renforcée est une bonne chose, surtout dans le contexte de technologies qui se propagent extrêmement rapidement. La question clé sera de savoir si les nouvelles réglementations et le nouveau système de normes et d’autorités de contrôle fonctionneront de manière efficiente et efficace dans l’écosystème juridique plus large. Peuvent-ils bloquer la « mauvaise » innovation et permettre la bonne ? Ou les applications indésirables trouvent-elles à nouveau des failles ?

Qu’auriez-vous fait différemment si vous aviez pu décider ?

Cette méthode de régulation large de l’ensemble du marché est désormais bien établie dans l’UE. Cela est également lié à l’histoire de l’UE et au défi de concilier de nombreux intérêts sous la pression géopolitique. En général, je suis favorable à une réglementation qui ne se concentre pas tant sur un type spécifique de technologie, mais sur la manière dont nous, les humains, interagissons avec la technologie et sur la manière dont nos droits sont protégés. Par conséquent, les exigences générales doivent être larges et les détails doivent être définis dans les secteurs spécifiques.

Ils ont dit que ce serait quelque chose à surveiller. Mais les consommateurs ressentiront-ils réellement les règles ? Il est souvent difficile de dire ce qu’une loi a réellement accompli.

Lorsque je monte dans un avion ou que je passe une IRM, j’ai confiance que ces choses sont sûres car il existe des installations pour en prendre soin. Cela devrait également être le cas des produits d’IA critiques. La régulation doit soutenir les institutions qui s’en chargent. Cela nécessite de bonnes réglementations : applicables, simples et intelligentes. J’espère que la législation européenne sera mise en œuvre de cette manière. Parce que nous voulons que de bonnes technologies soient développées.