“Quelle ado est prédestinée à tomber enceinte”

Juan-Manuel Urtubey, qui que ce soit était le gouverneur de Salta, a déclaré ouvertement à la télévision: «Avec cette technologie, vous pouvez prévoir cinq ou six ans à l’avance, avec nom, prénom et adresse, quelle fille est prédestinée à 86% à avoir une grossesse d’adolescente». Cependant, une fois les résultats obtenus, ils n’ont pas détaillé ce qui se passerait ensuite. Et aussi, les variables sur lesquelles reposait le fonctionnement de cette IA n’étaient pas très transparentes.

C’est Wired qui a découvert l’affaire et précisé que la base de données du système a été construite avec 200 000 habitants de la ville de Salta, dont 12 000 femmes et filles âgées de 10 à 19 ans, accédant informations personnelles et sensibles tels que l’âge, l’origine ethnique, le pays d’origine, le handicap et si le logement avait de l’eau chaude dans la salle de bain.

Ils ont en outre confirmé que “agents territoriaux” elles ont effectué des visites au domicile des filles, où elles ont mené des enquêtes, pris des photos et enregistré leurs positions sur GPS. Et il est indiqué que l’idée de cette surveillance rapprochée était de l’utiliser dans les quartiers pauvres de la zone et de surveiller également les immigrés et les autochtones.

La absence de règlement de l’IA en Argentine a empêché un examen formel et exhaustif de l’IA utilisée. En plus d’examiner son impact sur les adolescents qui ont été étiquetés par le système. Il n’était pas non plus clair si l’utilisation du programme avait été entièrement supprimée.

Et le Laboratoire d’Intelligence Artificielle Appliquée de l’Université de Buenos Aires il a exposé les erreurs de conception de la plate-forme et a rejeté que le pourcentage de certitude des prédictions était aussi élevé qu’il avait été déclaré. Et l’un des chercheurs a nuancé que ce type de problème peut conduire les politiciens à prendre de mauvaises décisions.

Un autre cas d’intelligence artificielle utilisé au niveau de l’État est celui de la gouvernement néerlandais a dû démissionner entièrement en février 2021, en raison d’un problème du système d’IA qui a détecté par erreur une fraude aux subventions de garde d’enfants accusant 26 000 familles. Cela a fait boule de neige et a poussé le gouvernement à démissionner. Par conséquent, il est important de se poser des questions avant de décider d’utiliser un système qui peut être erroné.

Le système d’IA utilisé en Argentine a été promu comme ‘futuriste’. Les experts qui ont analysé ce cas en sont venus à mentionner que derrière il y a un impulsion eugéniste persistante gérée par quelques-uns.

version extrême

La Chine va encore plus loin dans l’utilisation de la technologie, avec surveillance génétique, pour déterminer quels citoyens seront prédisposés à souffrir d’une maladie spécifique. Et avec le programme ‘examens médicaux pour tous’ Amnistie internationale et d’autres ont dénoncé que des échantillons de sang, des scans du visage et des enregistrements vocaux ont été collectés de force au Xinjiang, derrière l’utilisation de l’intelligence artificielle pour faire une carte génétique et surveiller la population.

Sous examen

En ce qui concerne les implications de nouvelles telles que celles en Argentine, amour de raphaëldirecteur de la chaire de bioéthique de l’Université pontificale de Comillas, souligne que le plus évident est le manque de respect de la vie privée de personnes découlant du principe bioéthique d’autonomie.

Les États-Unis, et surtout l’Union européenne des plans sont en cours d’élaboration pour auditer les systèmes algorithmiques. Et Amo précise de nombreuses tentatives pour faire de l’intelligence artificielle une législation robuste et fiable, cela implique de contrôler les données. Parce que l’intelligence artificielle s’en nourrit et qu’ils sont devenus Or liquide de cet instant. Et la première chose que toute réglementation sur l’IA doit faire est de veiller à la protection de la vie privée.

Pour cette raison, Amo souligne que « par autonomie nous avons droit à la confidentialité de nos données, notamment les données de santé. Et violer ce problème signifie rompre cet accord. Et si cela se produit également dans le cas des mineurs et des personnes les plus vulnérables, cela signifierait finalement contrôle des faibles».