La reconnaissance faciale informatique, une technologie impliquée dans les débats éthiques et politiques

Bien que la reconnaissance faciale informatique soit utilisée dans des domaines liés à la sécurité, il est également vrai que deux de ses principaux problèmes sont la menace qu’elle représente pour la vie privée des personnes et le danger qu’elle présente de devenir un outil de contrôle social.

Un groupe de 120 organisations non gouvernementales et 60 experts en technologie et en confidentialité ont demandé de suspendre l’utilisation de la reconnaissance faciale dans les espaces publics et sur les immigrants, car cette utilisation peut conduire à des abus et à la discrimination. Bien que la lettre ait été promue par le groupe européen de défense des droits numériques, elle a bénéficié du soutien d’organisations du monde entier. Bien que la reconnaissance faciale soit l’un des points difficiles de la loi sur l’intelligence artificielle sur laquelle travaille l’Union européenne, le problème de cette technologie qui inclut les droits numériques et la vie privée se reproduit dans de nombreuses régions du monde.

La reconnaissance faciale est utilisée quotidiennement pour se connecter aux téléphones portables (téléphones portables) et valider l’identité pour installer des applications bancaires ou d’agence officielle. Il suffit même de prendre un selfie et de montrer sa pièce d’identité pour que de nombreuses entités accordent un crédit à la personne ou lui permettent de faire des achats sans suivre les mécanismes traditionnels.

Aunque hay aplicaciones para la identificación de personas extraviadas y desaparecidas, el reconocimiento facial por ordenador se utiliza mayormente para supervisar la identidad de la gente que entra y sale de un país o que circula por espacios públicos, a fin de brindar “mayor seguridad” a la population.

Bien que divers secteurs sociaux tentent de protéger la vie privée contre l’utilisation de la reconnaissance faciale informatique, il existe de plus en plus de technologies qui capturent les visages, les voix et les mouvements.

« Les gens essaient de se protéger, mais en réalité, nous avons d’autres fuites de confidentialité, à savoir les téléphones portables. Il nous semble toujours anodin qu’une annonce apparaisse pour un endroit où nous aimerions aller et dont nous avons parlé avec quelqu’un quelque temps auparavant. Les téléphones portables capturent constamment nos informations et les vendent même », explique Pablo Negri, chercheur au Conseil national de la recherche scientifique et technique (CONICET) à l’Institut d’informatique de l’Université de Buenos Aires (UBA) en Argentine, en dialogue avec l’Agence de Presse Scientifique de l’Université Nationale de Quilmes, Argentine.

Sécurité ou confidentialité ?

La sécurité est l’un des sujets qui règne dans tous les débats politiques et la reconnaissance faciale est proposée comme outil pour détecter les personnes considérées comme dangereuses. En ce sens, l’un des débats est de savoir dans quelle mesure la population est prête à perdre son intimité pour gagner en sécurité.

«À ce stade, la question réside dans un usage proportionné dans certains cas à risque pour la société ou pour les personnes. Il existe sûrement des sociétés plus perméables à ce type d’utilisation qui préfèrent être plus sécurisées, et d’autres qui préfèrent opter pour la confidentialité », souligne Negri.

Malgré le débat entre les deux positions, le danger tombe dans la surveillance et le contrôle social à travers cet outil. En effet, le Bureau du Procureur d’Investigations Administratives a déposé une plainte pénale contre les autorités de la Ville Autonome de Buenos Aires pour prétendue espionnage illégal avec des caméras et des données biométriques sur des fonctionnaires, des dirigeants sociaux et syndicaux, des opposants, des juges, des journalistes et des hommes d’affaires.

L’une des controverses autour de la reconnaissance faciale informatique est liée à son imprécision auprès des différents groupes sociaux. (Illustration : Étonnants/NCYT)

La technologie n’est pas objective non plus

Même si ces programmes informatiques sont souvent considérés comme neutres et efficaces, ceux qui les conçoivent restent des personnes en chair et en os qui portent leurs préjugés, leurs stéréotypes et leurs erreurs. Appelé biais technologique, le problème réside dans la construction des bases de données sur lesquelles reposent de tels systèmes. Les premiers, lancés il y a quelques années, étaient constitués de millions de photos de personnages célèbres, pour la plupart originaires des États-Unis et d’Europe.

De cette manière, une prépondérance de personnes blanches, occidentales et masculines a été générée. Bien que la marge d’erreur pour ces traits soit minime, d’autres ethnies et sexes ont été exclus de la validation précise.

« Cela conduit à davantage de fausses alertes auprès de personnes qui ne sont ni blanches ni européennes. Ainsi, de fausses alarmes sont générées lorsqu’une personne qui, selon les seuils du système, est similaire, peut être retenue sur la voie publique », explique le scientifique qui a créé Siface : un système de reconnaissance faciale pour localiser les individus perdus et fugitifs.

L’Argentine, le Brésil et les États-Unis ont plus d’un exemple où le taux d’erreurs de reconnaissance faciale est plus élevé chez les personnes noires, les femmes ou les personnes transgenres que chez les hommes blancs. Según un informe de la Red en Defensa de los Derechos Digitales, “estos errores alcanzan casi el 40 por ciento cuando se trata de mujeres racializadas o personas trans, mientras que, en hombres blancos, la tasa de error cae hasta solo el 0,3 pourcent”.

Pour cette raison, il est nécessaire de générer d’autres bases de données plus inclusives et des technologies capables de reconnaître tous les types de visages et tous les types de peau avec la même efficacité. (Source : Nicolás Retamar / Agence d’Information Scientifique de l’Université Nationale de Quilmes)