« Dangereux et discriminatoire » : les gouvernements de l’UE intensifient leurs efforts pour autoriser le contrôle de l’IA

En juin, le Parlement européen a décidé d’interdire la reconnaissance faciale considérant que son utilisation pourrait présenter un « risque inacceptable » pour droits humains. Au cours des dernières heures, les députés européens qui dirigent l’élaboration de la nouvelle législation ont subi de fortes pressions de la part du Commission européenne et par les gouvernements de l’UE, représentés par la présidence espagnole, qui veulent désormais éviter un interdiction et ouvrir la porte à une exception qui permet l’utilisation de ce type de IA à des fins de sécurité ou de défense nationale.

Les États membres font également pression sur les législateurs pour qu’ils abaissent les exigences de la loi et autorisent à la fois la police et forces armées utiliser l’IA pour la surveillance biométrique en temps réel (identification d’un individu grâce à l’analyse de ses caractéristiques physiques), les systèmes de prédiction et la reconnaissance des émotions. Ces deux dernières technologies suscitent de nombreuses suspicions parmi les experts, puisqu’il n’existe aucune preuve de leur efficacité ni de leurs conséquences sur l’environnement. Droits fondamentaux peut être crucial. C’est encore plus vrai lorsqu’il est appliqué dans le frontière pour la surveillance des personnes migrants.

Le Conseil de l’UE, organe représenté par Espagnefait également pression pour le forces de sécurité peut utiliser des systèmes biométriques pour créer des profils de personnes en fonction de leur Razaopinions politiques ou croyances religieuses lorsque ces caractéristiques « ont un lien direct avec un crime ou une menace spécifique ».

Plainte civile et experte

Ce poste est considéré comme un menace par des groupes de la société civile, des organisations européennes de défense Protection de données et même du Haut-Commissaire des Nations Unies aux droits de l’homme, qui a également appelé à l’interdiction de ces systèmes qui peuvent menacer la confidentialité. “C’est extrémiste, raciste, dystopique et n’a pas sa place dans notre société”, a déclaré Daniel Leufer, analyste technologique à l’organisation de défense des droits numériques Access Now.

“Les propositions du Conseil donneraient à la police le feu vert pour utiliser des outils d’IA qui sont par nature discriminatoires, permettant surveillance de masse et qui portent atteinte à l’essentiel de nos droits et de l’État de droit”, lit-on dans une lettre signée par 47 organisations de la société civile et vingt experts de renom à laquelle a eu accès El Periódico de Catalunya, du groupe Prensa Ibérica. Plus de 40 universitaires ont promu une autre lettre de plainte.

Le contre-projet du Parlement

Le mécontentement suscité par la proposition du Conseil a bloqué les négociations à trois dès les premières heures de jeudi et le manque de compréhension a contraint les parties à suspendre les négociations pour les reprendre ce vendredi.

Rien ne garantit toutefois qu’un accord définitif sur la loi sera trouvé aujourd’hui. Et le Parlement européen, avec le député italien de centre-gauche Brando Benifei en première ligne, a serré les rangs contre la proposition des gouvernements de l’UE et a élaboré un contre-projet. “Ce n’est pas ce que nous avons toujours demandé, mais c’est mieux que ce que demande le Conseil”, expliquent des sources de la société civile au Periódico de Catalunya.

Après analyse, la présidence espagnole “semble disposée à faire des concessions sur les interdictions, mais reste rigide sur l’exemption pour des raisons de sécurité nationale”, comme le rapporte Luca Bertuzzi, journaliste du média spécialisé Euractiv.