L’UE approuve la première loi mondiale sur l’intelligence artificielle | Technologie

L’Union européenne sera la première région au monde à réglementer pleinement les utilisations de l’intelligence artificielle (IA). Les Etats et le Parlement européen sont parvenus, vers minuit de vendredi à samedi, et après trois jours d’intenses et âpres négociations, à un accord provisoire, un texte définitif qui doit encore être ratifié par les deux parties avant d’entrer en vigueur, attendu à fin 2026, même si certaines parties commenceront à fonctionner plus tôt. Ce texte définit les obligations et les règles par lesquelles doit être régie une technologie qui est là pour rester et qui transforme complètement la vie quotidienne, mais qui comporte autant de possibilités que de risques, dont beaucoup ne sont même pas encore imaginables.

“Le règlement vise à garantir que les systèmes d’IA utilisés dans l’UE sont sûrs et respectent les droits fondamentaux et les valeurs européennes”, a déclaré la société sur X (anciennement Twitter). Présidence espagnole du Conseil de l’UE. La clôture de cette loi, qui veut devenir une référence ou un standard pour d’autres régions au-delà des frontières communautaires, était l’une des priorités fixées par l’Espagne pour son semestre européen, qui se termine en décembre prochain.

Les Vingt-Sept assurent vouloir garantir les possibilités et limiter au maximum les risques, pour lesquels ils ont négocié une loi « évolutive » qui contient suffisamment de flexibilité pour pouvoir réguler des fonctions ou des technologies actuellement inconnues, ou pour s’adapter aux changements vécus par ceux qui existent déjà. Mais le diable, comme toujours, est dans les détails, et les négociations « passionnées », comme les ont décrites les témoins de l’interminable lutte acharnée qui a commencé mercredi et s’est terminée vers minuit du vendredi au samedi, se sont prolongées en raison de le combat entre les États-Unis et les députés européens – et parfois entre chaque parti – sur ce qui constitue ou non un risque et quelles exceptions et garanties mettre en place pour garantir que les droits fondamentaux individuels ne soient pas mis en danger dans l’intérêt de ne pas nuire à l’économie ou aux intérêts des États. Les détails restent à connaître mais, après 36 heures de négociations, l’une des plus longues de mémoire de ces formats, toutes les parties se sont déclarées satisfaites de « l’équilibre » atteint entre les deux objectifs.

“C’est une très bonne loi qui favorisera l’innovation et d’une manière compatible avec les droits fondamentaux”, a déclaré la secrétaire d’État à la Numérisation et à l’Intelligence artificielle, Carme Artigas.

« L’UE devient le premier continent à établir des règles claires pour l’utilisation de l’IA », a déclaré le commissaire au Marché intérieur, Thierry Breton, l’un des principaux promoteurs de la réglementation et pour qui la loi proposée est « bien plus qu’un ensemble de règles ». , c’est une navette pour le startups « Les entreprises et les chercheurs européens mènent la course mondiale à l’IA. »

Surtout, a noté Artigas, parce qu’il donne « une sécurité juridique et technique » aux citoyens et aux entreprises, ce qui permettra, comme on pouvait s’y attendre, d’éviter de nombreuses actions en justice. Pour ce faire, la réglementation veut avoir suffisamment de mordant pour ne pas rester lettre morte, pour laquelle elle prévoit un système de sanctions, soit un pourcentage du volume total d’affaires de l’entreprise contrevenante au cours de l’exercice précédent, soit encore un montant prédéterminé « encore plus grand ». Par ailleurs, la création d’un organe de contrôle indépendant est établie, un Office de l’IA lié à la Commission européenne et qui sera conseillé par un panel scientifique et la société civile.

La présidente de la Commission, Ursula von der Leyen, a salué un règlement « pionnier dans le monde ». Un « cadre juridique unique pour le développement de l’IA auquel on peut faire confiance », s’est félicité le chef de l’exécutif européen dans X. « L’Europe a mené et tenu ses promesses », a déclaré la présidente du Parlement européen, Roberta Metsola, selon qui l’IA Act, comme on l’appelle en anglais, est « une législation avant-gardiste et responsable qui impose des normes mondiales ».

À la satisfaction de conclure un accord qui semblait souvent s’éloigner, s’ajoutaient des gestes de soulagement de la part des principaux responsables des négociations, non seulement parce qu’ils pouvaient enfin rentrer chez eux, mais aussi parce que, comme chacun le soulignait, ils l’ont fait avec la certitude que ils avaient bien fait leurs devoirs malgré de nombreux obstacles.

Parmi eux, le plus épineux était, comme prévu, la question de savoir comment réglementer les modèles d’IA à usage général (IA générative ou modèles fondamentaux) sur lesquels reposent des outils populaires tels que ChatGPT, ainsi que les systèmes de surveillance biométrique (comme la reconnaissance faciale). ), qui s’est finalement révélé être le point le plus âprement négocié et a prolongé les discussions jusqu’à ce vendredi, en raison des fortes réticences suscitées par ces technologies qui potentiellement – et dans certains cas déjà effectivement, comme on le voit dans certains pays peu puissants démocratiquement — permettre une supervision et un contrôle étatiques qui peuvent directement entrer en conflit avec les droits fondamentaux des citoyens.

Enfin, l’échec des négociations a été évité, que l’Espagne a insisté pour conclure maintenant, craignant un calendrier qui, avec des élections européennes dans six mois, pourrait mettre en péril une loi longuement rédigée et discutée. Le Parlement européen a salué le fait que la loi « cherche à garantir que les droits fondamentaux, la démocratie, l’État de droit et la durabilité environnementale soient protégés contre l’IA à haut risque, tout en stimulant l’innovation et en faisant de l’Europe un leader dans le secteur ».

Le texte final reprend, disent les députés, leurs principales lignes rouges, confirmant que seront interdits plusieurs systèmes de surveillance biométrique qu’ils jugeaient inacceptables : les systèmes de catégorisation biométrique (par convictions politiques, religieuses, philosophiques ou par orientation sexuelle ou race) ; des systèmes pour étendre ou créer des bases de données faciales en capturant des données sans discernement via Internet ou des enregistrements audiovisuels et à la télévision ; la reconnaissance des émotions sur le lieu de travail et dans les établissements d’enseignement ; il notation sociale (systèmes qui notent les personnes en fonction de leur comportement social ou de leurs caractéristiques personnelles) ; les systèmes qui manipulent le comportement humain et l’IA utilisée pour exploiter les vulnérabilités des personnes (par exemple en raison de leur âge ou de leur situation sociale ou économique).

En revanche, même si les systèmes de surveillance biométrique en temps réel seront autorisés dans l’espace public, ils ne pourront être utilisés que par les forces de l’ordre et seront très limités et entourés de garanties strictes : une autorisation judiciaire et la liste des délits qui les autoriseront. être nécessaire. L’autorisation sera très restrictive. En cas d’utilisation « ex post », seule la recherche d’une personne reconnue coupable ou soupçonnée d’avoir commis une infraction grave sera autorisée. Dans le cas de la surveillance en temps réel, son utilisation sera limitée « dans le temps et dans le lieu » et ne sera autorisée que pour la recherche de victimes d’enlèvement, de traite d’êtres humains ou d’exploitation sexuelle, pour la prévention d’un acte terroriste « réel et prévisible ». menace ou « réelle et présente », c’est-à-dire survenant au même moment, ou pour la localisation ou l’identification d’un suspect de crimes spécifiques : terrorisme, trafic, meurtre, enlèvement, viol, vol à main armée ou crime environnemental, entre autres. . autres).

Concernant l’autre point majeur des négociations, la régulation des systèmes d’intelligence artificielle générative sur lesquels reposent des modèles comme ChatGPT, celles-ci devront répondre à des critères de transparence, comme par exemple préciser que si un texte, une chanson ou une photographie a été généré via l’intelligence artificielle, ainsi que de garantir que les données utilisées pour entraîner les systèmes respectent le droit d’auteur.

Il s’agit d’une technologie à peine connue lorsque Bruxelles a proposé la loi, en avril 2021, des mesures et des garde-fous ont donc dû être intégrés par la suite, ce qui a également rappelé que la législation doit être adaptable à des systèmes du futur encore inimaginables. Le règlement n’interdit pas leur utilisation, mais il établit une série de critères pour détecter les modèles susceptibles de générer un risque élevé en fonction du contexte dans lequel ils sont utilisés et impose à leurs développeurs de se conformer à des garanties plus strictes avant de les mettre sur le marché.

Aucun autre pays ne dispose encore d’une réglementation aussi complète que la réglementation européenne. Le président des États-Unis, Joe Biden, a signé en octobre un décret obligeant les entreprises technologiques à informer le gouvernement de toute avancée présentant un « risque sérieux pour la sécurité nationale ». Quelques jours plus tard, le Premier ministre britannique, Rishi Sunak, a convoqué un sommet d’où a émergé le premier engagement des 28 pays et de l’UE sur ces systèmes (Déclaration de Bletchley) et la création d’un groupe d’experts pour suivre leurs progrès.

Si aucun événement imprévu ne se produit, c’est-à-dire si aucune des parties ne recule et que les Etats et le Parlement européen ratifient la loi dans les mois à venir (les négociateurs ne croient pas que le processus puisse commencer avant février, déjà dans le cadre du Parlement européen belge). présidence), la loi sur l’IA devrait pouvoir entrer pleinement en vigueur vers la fin de 2026, même si certaines parties le feront plus tôt : l’Office de l’IA devrait commencer à fonctionner dès que le règlement sera ratifié, tandis que le l’interdiction des systèmes d’intelligence artificielle interdits arrivera dans six mois et les exigences relatives aux systèmes et modèles d’IA génératifs dans 12.

Vous pouvez suivre Technologie EL PAÍS dans Facebook oui X ou inscrivez-vous ici pour recevoir notre bulletin d’information semanal.