Le philosophe Adam Smith, considéré comme le père de l’économie moderne, en La richesse des nations (1776) traitaient systématiquement l’économie comme un sous-domaine de l’éthique. Évidemment, l’économie est étroitement liée aux idées de justice et d’équité, aux idées politiques, et donc éthiques, de progrès ou de croissance. Ces idées déterminent les principes selon lesquels la création de richesses et de ressources est permise. Et ces principes déterminent que tout ne va pas tant que la richesse est produite, quel que soit le type d’économie qui régit un pays.
L’intelligence artificielle (IA) est considérée comme l’avenir de l’économie et de la science. Considérée comme l’un des domaines technologiques à fort potentiel d’innovation, l’IA est une discipline qui peut se combiner avec de nombreux domaines scientifiques (biologie, médecine, sciences sociales, linguistique ou changement climatique). De nombreuses applications ont émergé de ces croisements disciplinaires en usage tant dans l’administration publique que dans le domaine industriel : systèmes d’automatisation dans le but de rationaliser l’administration dans la justice, prédiction de comportement tant dans le travail policier que dans les ressources humaines, ou pour évaluer la solvabilité d’un personne ou son comportement au volant. Tous les exemples dans lesquels il existe un risque de porter atteinte aux principes démocratiques ou aux droits fondamentaux.
L’utilisation aveugle de l’IA pour résoudre n’importe quel problème a transformé cette discipline en un espace dans lequel d’anciennes théories pseudoscientifiques, racistes, sexistes et capacitistes, approuvées à leur époque par des politiques de même nature, ont réapparu dans des systèmes qui oppriment les pauvres, personnes noires et racialisées, handicapées, immigrantes ou femmes. L’IA masque et obscurcit ces théories avec une épaisse couche de langage mathématique qui rend difficile la compréhension de l’impact des systèmes créés. Ruha Benjamin, Virginia Eubanks ou Safiya Noble ont décrit avec éclat dans leurs travaux comment ces technologies ont été utilisées pour privilégier secrètement quelques-uns. Un nouvel exemple que toute innovation n’est pas éthique.
Il est louable que le gouvernement espagnol ait reconnu ces risques à son époque et pour y faire face a créé, en 2020, un conseil consultatif pour l’IA dont l’objectif était “fournir des conseils et des recommandations indépendants sur les mesures à prendre pour garantir une utilisation sûre et éthique de l’intelligence artificielle», selon le site La Moncloa. Et il a été très cohérent en plaçant sa coordination au ministère de l’Économie. Cependant, après la révision de la Stratégie nationale IA (ENIA), le conseil consultatif n’a pas été consulté pour analyser “les implications que ces technologies de rupture auront dans divers domaines” dans la plupart des cas, y compris la accord entre ADIA Lab et Sedia (Secrétaire d’État à la Numérisation et à l’Intelligence Artificielle) pour établir son siège européen à Grenade. Un accord qui suscite de vives inquiétudes, car il contredit les principes d’éthique et de sécurité avec lesquels le gouvernement espagnol s’est engagé à développer de nouvelles technologies.
L’ADIA Lab est un centre scientifique financé par l’Abu Dhabi Investment Authority (ADIA), l’émirat le plus riche des Émirats arabes unis, qui a démarré ses activités en décembre 2022. Alors que l’ADIA, l’entité qui finance ADIA Lab, dispose d’actifs d’environ 800 000 millions dollars, son investissement en Espagne peut être considérable.
Aux EAU, la science n’est pas indépendante du gouvernement, selon documenter des organisations telles que Human Rights Watch. Le gouvernement influence les décisions du personnel et l’agenda des centres de recherche, y compris ADIA Lab. Par conséquent, la Sedia a convenu d’un agenda de des recherches axées, entre autres, sur le développement d’une modélisation économique du changement climatique et de ses politiques d’atténuation, ainsi que sur le développement d’infrastructures informatiques éthiques avec un centre scientifique financé par un gouvernement qui ne reconnaît pas l’indépendance de la science, qui bafoue les droits humains, en particulier les femmes, les communautés LGTBQI+ et les immigrés, et dont la richesse provient principalement du pétrole.
En d’autres termes, la recherche sur la transition climatique sera financée par des entités dont la richesse provient des énergies fossiles, et les études sur les principes éthiques seront financées par un gouvernement qui remet en question la dignité et les droits de certaines personnes. Les scientifiques impliqués dans l’ADIA Lab, bien que reconnus dans leurs domaines de spécialisation, ne sont pas des experts en éthique, en écologie ou en droit. Sandy Pentland, par exemple, a cofondé Aadhaar, qui commercialise un système controversé d’identification des personnes qui facilite la surveillance de masse en Inde. En résumé, la crédibilité des résultats de cette collaboration pourrait être comparable à celle des rapports sur les effets du tabac sur la santé qui étaient autrefois réalisés par les compagnies de tabac.
La décision de Sedia ignore les principes éthiques de l’économie, de la science en général et de l’IA en particulier. L’accord avec ADIA Lab réduit l’éthique de l’IA à des considérations techniques simplistes et ignore que l’éthique de l’IA s’étend également au contexte politique et aux conditions dans lesquelles ses résultats sont développés et financés.
Cette alliance ne fera pas de l’Espagne un pays plus avancé en matière d’IA et ne nous permettra pas non plus d’affirmer que “stimule le développement d’une IA éthique», comme l’a assuré la secrétaire d’État, Carme Artigas, à Cadena SER. Cette alliance ne fait que replacer les EAU sur la carte de la concurrence européenne et remet en cause la crédibilité avec laquelle SEDIA prétend vouloir favoriser le développement éthique de l’IA.
Pour les raisons ci-dessus, trois membres du conseil consultatif de l’IA ont déjà démissionné la semaine dernière. Deux d’entre eux [Ricardo Baeza-Yates y Lorena Jaume-Palasí] sont signataires de cette lettre.
Ricardo Baeza-Yates Il est directeur de recherche à l’Institute for Experiential AI de la Northeastern University et membre de plusieurs comités de politique technologique mondiaux et américains. Il est membre de l’ACM et de l’IEEE, ainsi que du prix national d’informatique appliquée “Ángela Ruiz Robles”. Vendredi dernier, il a démissionné du Conseil consultatif du gouvernement sur l’IA.
Lorena Jaume-Palasí Elle est éthicienne et fondatrice de plusieurs ONG sur la technologie et l’éthique. Membre du comité consultatif international du Panel for the Future of Science and Technology (STOA) du Parlement européen et de l’Institut Max Planck pour les systèmes intelligents. Jeudi dernier, il a démissionné du Conseil consultatif du gouvernement sur l’IA.
Ramon Lopez de Mantaras Il est l’un des pionniers de l’IA en Europe et le prix national de recherche “Julio Rey Pastor” en mathématiques et TIC pour ses contributions à l’IA.
Carmela Troncoso est professeur associé et responsable du Laboratoire d’ingénierie de la sécurité et de la vie privée (SPRING) à la Faculté d’informatique et de communication (IC) de l’EPFL, en Suisse. Il s’agit du Prix CNIL-INRIA pour la Protection de la Vie Privée (2017).
Vous pouvez suivre LE PAYS Technologie dans Facebook y Twitter ou inscrivez-vous ici pour recevoir nos bulletin d’information sémanal.
