Le Parlement européen approuve la loi sur l’IA, arrêtez la reconnaissance faciale en direct

Le Parlement européen a approuvé les modifications du projet de règles visant à réglementer l’intelligence artificielle proposé par la Commission européenne. Le règlement a été approuvé par 499 voix pour, 28 contre et 93 abstentions. Le oui des eurodéputés ouvre la voie à des négociations avec les États membres pour finaliser ce texte qui vise à limiter les risques de systèmes tels que ChatGPT.

Le Parlement européen a appelé à de nouvelles interdictions, comme celle des systèmes automatiques de reconnaissance faciale dans les lieux publics. La Commission souhaite autoriser son utilisation par les forces de l’ordre dans la lutte contre la criminalité et le terrorisme. Ce sujet devrait alimenter les discussions avec les États membres qui s’opposent à l’interdiction de cette technologie dont l’application est assez controversée.

“Nous avons réussi à maintenir une interdiction claire de la reconnaissance faciale en temps réel. Il y a eu une tentative de la politiser, d’en faire un outil de propagande, mais nous avons gagné au Parlement et avons réussi à garder une garde-fou clair pour éviter tout risque de surveillance de masse”. “, a déclaré le député européen Pd Brando Benifei, co-rapporteur au Parlement européen pour le règlement sur l’intelligence artificielle. L’Union européenne espère conclure d’ici la fin de l’année le processus de ce qui sera le premier règlement au monde à réglementer l’innovation dans l’intelligence artificielle, un secteur jugé stratégique par Bruxelles.

La voie de la loi sur l’IA, qui pourrait devenir loi dans l’année

La loi sur l’IA, comme la loi a été baptisée, cherchera à établir une norme mondiale pour une technologie utilisée dans tout, des usines automatisées aux voitures autonomes en passant par les chatbots comme ChatGpt. Les législateurs devront désormais régler les détails avec les pays de l’UE avant que le projet de règles ne devienne loi.

Le 12 mai, la Chambre européenne a approuvé en première instance la loi sur l’IA, qui est en fait le premier texte de loi au monde réglementant l’utilisation de l’intelligence artificielle. Bruxelles est déterminée à jeter les bases d’un ensemble de règles visant à garantir que les systèmes d’intelligence artificielle soient “supervisés par des personnes”. Qu’ils soient sûrs, transparents, traçables et non discriminatoires. Le oui définitif au paquet de règles devrait arriver d’ici la fin de l’année.

Que contient le texte approuvé par le Parlement européen ?

Dans le détail, les règles suivent une approche basée sur les risques et établissent des obligations pour les fournisseurs et les opérateurs de systèmes d’IA en fonction du niveau de risque qu’ils peuvent générer. Les systèmes d’IA qui présentent un niveau de risque inacceptable pour la sécurité des personnes, tels que ceux utilisés pour le social scoring (classant les personnes selon leur comportement social ou leurs caractéristiques personnelles), seront donc interdits.

Par rapport au texte initial lors de la plénière, les députés ont élargi la liste pour inclure des interdictions d’utilisations intrusives et discriminatoires de l’IA.

Parmi celles-ci : l’utilisation de systèmes d’identification biométrique à distance « en temps réel » et « a posteriori » dans les espaces accessibles au public ; des systèmes de catégorisation biométrique basés sur des caractéristiques sensibles (par exemple, le sexe, la race, l’origine ethnique, la citoyenneté, la religion, l’orientation politique) ; les systèmes de police prédictifs (basés sur les profils, l’emplacement ou le comportement criminel antérieur); les systèmes de reconnaissance des émotions utilisés dans les forces de l’ordre, la gestion des frontières, les lieux de travail et les établissements d’enseignement ; et l’extraction non ciblée de données biométriques provenant d’Internet ou de séquences de vidéosurveillance pour créer des bases de données de reconnaissance faciale (en violation des droits de l’homme et du droit à la vie privée).