le Parlement européen approuve la première loi sur l’intelligence artificielle

Dans le domaine de la réglementation sur l’intelligence artificielle (IA), l’Europe a fait un pas en avant significatif avec l’adoption de la loi sur l’intelligence artificielle (dite loi sur l’IA) par le Parlement européen. Cette loi, fruit de négociations avec les États membres conclues en décembre 2023, marque un moment historique dans la régulation de l’IA, plaçant l’UE à l’avant-garde dans la création d’un cadre visant à garantir la sécurité et le respect des droits fondamentaux, tout en stimulant l’innovation.

Sécurité et droits fondamentaux au premier plan de l’AI Act

Avec 523 voix pour, 46 contre et 49 abstentions, la loi sur l’intelligence artificielle vise à protéger les droits fondamentaux, la démocratie, l’État de droit et la durabilité environnementale contre les risques posés par l’IA. à haut risque, tout en promouvant l’innovation et en faisant de l’Europe un leader dans ce domaine. Le règlement établit des obligations spécifiques pour l’IA en fonction de ses risques potentiels et de son niveau d’impact.

Applications interdites et restrictions

Les nouvelles règles interdisent les applications spécifiques de l’IA qui menacent les droits des citoyens, notamment les systèmes de catégorisation biométrique basés sur des caractéristiques sensibles et la récupération non ciblée d’images faciales provenant d’Internet ou de caméras de surveillance pour créer des bases de données de reconnaissance faciale. Seront également interdites la reconnaissance des émotions sur le lieu de travail et dans les écoles, le score social, la police prédictive (lorsqu’elle repose exclusivement sur le profilage d’une personne ou l’évaluation de ses caractéristiques) et l’IA qui manipule le comportement humain ou exploite les vulnérabilités des personnes.

Loi sur l’IA : exemptions pour les forces de l’ordre

En principe, l’utilisation de systèmes d’identification biométriques par les forces de l’ordre est interdite, sauf dans des situations expressément énumérées et étroitement définies. L’utilisation « en temps réel » ne peut être autorisée que si des garanties strictes sont respectées, telles que des restrictions temporelles et géographiques et une autorisation judiciaire ou administrative spécifique préalable. De telles utilisations peuvent inclure, par exemple, la recherche ciblée d’une personne disparue ou la prévention d’une attaque terroriste.

Obligations pour les systèmes à haut risque

Il existe également des obligations claires pour d’autres systèmes d’IA à haut risque (en raison de leurs dommages potentiels importants à la santé, à la sécurité, aux droits fondamentaux, à l’environnement, à la démocratie et à l’État de droit). Il s’agit notamment des infrastructures essentielles, de l’enseignement et de la formation professionnels, de l’emploi, des services essentiels privés et publics (par exemple soins de santé, services bancaires), de certains systèmes d’application de la loi, de gestion des migrations et des frontières, de la justice et des processus démocratiques. De tels systèmes doivent évaluer et réduire les risques, conserver des enregistrements d’utilisation, être transparents et précis et garantir une surveillance humaine. Les citoyens auront le droit de déposer des plaintes concernant les systèmes d’IA et de recevoir des explications sur les décisions basées sur des systèmes d’IA à haut risque qui affectent leurs droits.

Exigences de transparence et soutien à l’innovation au sein de l’AI Act

Les systèmes d’IA à usage général et les modèles GPAI sur lesquels ils sont basés doivent répondre à certaines exigences de transparence, notamment le respect de la loi européenne sur le droit d’auteur et la publication de résumés détaillés du contenu utilisé pour la formation. Les modèles GPAI plus puissants, qui peuvent présenter des risques systémiques, seront confrontés à des exigences supplémentaires, notamment l’évaluation du modèle, l’évaluation et l’atténuation des risques systémiques, ainsi que le reporting des incidents.

Prochaines étapes

Le règlement est encore soumis à un dernier contrôle juriste-linguiste et il est prévu qu’il soit définitivement adopté avant la fin de la législature. La loi doit également être formellement approuvée par le Conseil. Elle entrera en vigueur vingt jours après sa publication au Journal Officiel, et sera pleinement applicable 24 mois après son entrée en vigueur, à l’exception : des interdictions de pratiques interdites, qui s’appliqueront six mois après la date d’entrée en vigueur. ; codes de bonnes pratiques (neuf mois après l’entrée en vigueur) ; des règles générales sur l’IA, y compris la gouvernance (12 mois après l’entrée en vigueur) ; et obligations pour les systèmes à haut risque (36 mois).

Avec la loi sur l’intelligence artificielle, l’Union européenne établit un modèle de gouvernance de l’IA qui équilibre l’innovation avec la protection des droits fondamentaux et de la sécurité, démontrant ainsi une approche proactive et tournée vers l’avenir dans la réglementation des technologies émergentes.