Reconnaissance faciale biométrique et AI Act : la tempête parfaite

Les cas difficiles font la mauvaise loi, – les cas extrêmes produisent de mauvaises normes – a déclaré en 1904 Oliver Wendell Holmes Jr. juge de la Cour suprême des États-Unis et éminent juriste. Par conséquent, il serait trop facile d’exploiter le choix du parquet de Florence d’analyser l’ensemble des quelque 1 500 caméras de surveillance pour rechercher des éléments utiles pour sauver l’enfant faire taire les “extrémistes de la vie privée” qui s’opposent à l’utilisation des technologies d’identification biométrique au nom des “droits fondamentaux” et qui exigent l’imposition d’une telle interdiction également dans la prochaine “loi sur l’IA”.

Cependant, tout comme le “fanatisme” des adorateur de la vie privée, de même qu’il n’est pas pérenne, au nom de la prévention absolue, de transformer notre société en un immense accumulateur de données à utiliser non pas tant en temps réel que, et cela devrait être inquiétant, “en cas de besoin” comme se produit déjà pour les données de trafic.

Cette confrontation qui dure depuis des décennies devient très actuelle concernant l’utilisation de la biométrie pour la “tempête parfaite” qui est sur le point de se déclencher.

La loi sur l’IA et la future loi italienne sur l’identification biométrique

En Europe, le prochain règlement communautaire sur l’IA entend également traiter de l’application de cette technologie à l’identification des personnes. Le débat oppose ceux qui veulent l’interdire totalement et ceux qui veulent une exception à des fins sécuritaires et antiterroristes (sujets d’ailleurs sur lesquels l’UE n’a pu trancher).

En Italie, au 31 décembre 2023, le délai fixé par l’art. 9 Décret législatif 139/21 qui interdit, jusqu’à cette date, l’utilisation de l’identification biométrique dans les lieux publics par des sujets autres que l’État et, avec certaines limitations, les forces de police locales. Le législateur est intervenu presque dans la région de Cesarini en passant un projet de loi prolongeant l’interdiction jusqu’en 2025 et en passant maintenant au Sénat, mais les termes de la question restent les mêmes.

Un scénario se dessine donc dans lequel le manque de synchronisation entre Rome et Bruxelles pourrait entraîner des conséquences paradoxales comme, par exemple, la “libéralisation” de tous ces systèmes d’identification biométrique qui non ils utilisent l’intelligence artificielle, ou au contraire une limitation non motivée et préconçue de l’utilisation de certaines technologies.

Le (non)sens d’un débat obsolète

Sur le plan purement formel, la polémique sur l’utilisation – ou plutôt l’abus – de ces instruments par l’État ne devrait même pas exister : si l’on part du postulat que l’on vit dans une démocratie libérale, il faut reconnaître qu’il existe un système de garanties et conclure que, s’il y a lieu, la question concerne le « comment » et non le « si » utiliser des technologies particulières. En fait, l’inquiétude que le système de protections formelles fonctionne réellement jusqu’à un certain point a été systématiquement renforcée par les nouvelles qui, au fil des ans, ont impliqué non pas des pays aux “démocraties variables” mais des représentants “très civilisés” du Premier Monde.

Le fétichisme de la vie privée et la controverse autour de la reconnaissance faciale

par Andrea Monti

06 mai 2023

Cependant, quelle que soit la façon dont on y pense, ce n’est pas une approche très fonctionnelle de fonder un choix politique sur des radicalisations idéologiques plutôt que sur des considérations pragmatiques. Il convient donc de réfléchir à ce que signifie concrètement le mot « sécurité ».

Les incohérences de la sécurité privatisée

Il est un fait que l’État n’est plus en mesure d’assurer seul la prévention de la criminalité et la sécurité publique, comme en témoignent la dévolution d’une grande partie de ces activités à la police locale, le changement de rôle des institutions de contrôle dans le cadre de “filiale de sécurité”, l’utilisation de stewards dans les stades et la diffusion de facto de services d’escorte personnelle (o garde du corps pour les hétérophiles) à la fois interdits et hypocritement ignorés. La question serait assez complexe, mais en résumé, même dans notre pays, nous nous dirigeons vers un modèle de gestion de la sécurité publique qui implique de plus en plus des entités privées.

Si tel est le cas, il serait pour le moins contradictoire de déléguer cette fonction importante à des sujets qui ne sont alors pas mis en mesure de l’exercer pleinement.

Ainsi, par exemple, l’interdiction d’utilisation des systèmes d’identification biométrique dans les lieux publics par les particuliers se heurte au fait que les instituts de sécurité (qui, bien qu’étant des entreprises, fonctionnent, rappelons-le, avec une autorisation préfectorale) disposent de salles de contrôle par dont ils gèrent les alarmes et les interventions. Pourquoi ne pourraient-ils pas s’équiper de systèmes avancés pour faire leur travail même s’ils ne sont pas des forces de police ?

De même, une telle interdiction empêche les centres commerciaux et les gestionnaires d’espaces tels que les stades ou les grands parkings publics (éventuellement souterrains) d’adopter des systèmes capables d’identifier plus ou moins automatiquement les agresseurs potentiels ou d’autres situations critiques, pour se retrouver alors accusés d'”échec contrôler” en cas d’accident ou d’action violente.

Les exemples pourraient continuer, mais déjà de ces considérations synthétiques, il ressort clairement que le thème de l’identification biométrique (éventuellement réalisée également par l’IA) ne concerne pas le débat limité et limitatif sur le “droit à la vie privée” ou la “société de surveillance” mais implique, à un niveau structurel, le modèle de sécurité qu’un Etat entend promouvoir. En d’autres termes, il s’agit de prendre une décision politique sur la biométrie en tant que telle, indépendamment des usages spécifiques.

La sécurité biométrique est parmi nous (et pas d’aujourd’hui)

À cet égard, il est bon de rappeler à ceux qui ne sont pas dans le secteur que l’identification biométrique – c’est-à-dire l’utilisation de données personnelles issues de l’analyse des caractéristiques physiques d’un individu – n’est pas quelque chose de notre temps. Juste pour rester en Europe, en 1853, Alphonse Bertillon crée l’anthropométrie de toutes pièces, c’est-à-dire une technique de mesure des caractéristiques physiques, utilisée par la police française puis par de nombreuses autres dans le monde pour constituer des archives (c’est-à-dire des bases de données) comme outil d’identification des suspects et des personnes arrêtées. Les recherches de Lord Galton sur les empreintes digitales ont suivi (avec plus de chance) qui ont donné naissance aux banques qui les ont collectées, puis celles qui ont conduit à la classification des photosignaux et enfin celles qui ont servi de base aux bases de données ADN. Il est donc aisé de se rendre compte que l’identification biométrique basée sur des bases de données est un fait accompli depuis des temps immémoriaux et que se concentrer sur un aspect limité tel que celui des logiciels capables d’analyser les flux vidéo n’a aucun sens, notamment par rapport, par exemple, aux conséquences de recherches sur phénotypage génétique qui durent depuis des années mais dont le grand public ne se soucie pas trop.

L’importance d’un choix politique responsable

Ces réflexions, malgré leur concision, montrent comment le débat public sur l’identification biométrique et les questions connexes est entaché par l’habituelle compulsion de répétition qui se produit chaque fois que la technologie rend de nouvelles possibilités disponibles, et qui se traduit systématiquement, d’une part, par la pulsion irrésistible à interdire aveuglément et, d’autre part, à regarder le doigt classique au lieu de la lune tout aussi paradigmatique.

La régulation des rapports sociaux, qu’on le veuille ou non même ceux liés à la sécurité, passe par la collecte des données et la capacité à les traiter avec le maximum d’efficacité possible. Nous pouvons décider d’ignorer ce fait, interdire tout-court ce que nous n’aimons pas et continuons à exiger que la réalité se plie à la représentation que nous voulons avoir. Ou nous pouvons prendre note de ce qui se passe, et essayer d’utiliser à l’avantage de tous ce que l’ingéniosité humaine a pu créer, avant que quelqu’un d’autre, peut-être Big Tech, ne le fasse pour nous, dans son propre intérêt et le nôtre.