Le Manifeste OFF présenté, qui prône la nécessité de reprendre le contrôle de la technologie | Technologie

Depuis que les progrès de l’intelligence artificielle ont suscité l’inquiétude quant à son potentiel et à ses risques, aucun gouvernement, expert ou homme d’affaires n’a manqué de mettre en garde contre l’urgence d’agir. Les mois qui ont suivi l’essor de ChatGPT ont vu proliférer des manifestes apocalyptiques, signés par certains des pionniers dans le domaine de l’IA. Depuis lors, certains ont appelé à une pause dans son développement, tandis que l’Union européenne a réussi à mettre en œuvre la première loi mondiale pour sa régulation. Cependant, certaines voix réclament un effort encore plus important. Une centaine de personnalités marquantes, tant nationales qu’internationales, signent le Manifeste OFF. Ce document met en évidence la vulnérabilité des êtres humains et de leurs institutions face à une technologie de plus en plus avancée et autonome, et appelle à des actions plus décisives et ambitieuses.

Le manifeste, présenté ce mercredi à Madrid, a été signé par des personnalités du monde de la culture, de la science, de l’éducation, de la psychologie, du droit et des médias, comme le directeur exécutif de PRISA Media, Carlos Núñez ; le président de CaixaBank, José Ignacio Goirigolzarri ; la directrice de la technologie, des médias et de la communication de l’Université de Columbia, Anya Schiffrin, ou le PDG d’Atresmedia, Javier Bardají, entre autres. “Il s’agit d’une initiative indépendante née d’une véritable préoccupation face aux tendances qui révèlent l’énorme vulnérabilité des êtres humains et des institutions face à un déploiement technologique mal ciblé”, a expliqué l’entrepreneur et écrivain Diego Hidalgo, coordinateur du manifeste. « Il s’agit d’un premier pas vers une mobilisation de la société civile. Notre objectif est de reprendre la main sur le numérique, avec l’aide de l’action publique et privée.

Dans le même esprit, Hidalgo a rappelé les risques pour la santé mentale liés à la possession d’un téléphone portable à un âge précoce. « Heureusement, certaines des questions abordées dans le manifeste commencent déjà à avoir une certaine présence dans le débat public. L’un d’eux concerne la profonde détérioration de la santé mentale, notamment chez les jeunes, dont il nous est encore difficile de prendre des mesures. Les courbes qui décrivent l’agitation de la jeunesse sont en hausse, une hausse absolument vertigineuse », a-t-il rappelé. Selon une étude réalisée par la plateforme Sapiens Lable fait qu’un enfant de 12 ans ait un téléphone intelligent La probabilité de souffrir de dépression à l’âge adulte augmente de 20 %, par rapport au fait d’y accéder à 18 ans, tandis que 74 % de ceux qui en souffrent depuis l’âge de six ans ont souffert de symptômes dépressifs. En Espagne, 88 % des jeunes possèdent un smartphone à l’âge de 13 ans.

Ana Caballero, avocate et vice-présidente de l’Association européenne pour la transition numérique, a exprimé lors de la présentation sa perplexité face à la commercialisation des données. « Nous sommes confrontés à des technologies qui ne sont pas neutres. Mais surtout, ces entreprises qui commercialisent nos données ne sont pas européennes et nous voient, en tant qu’Européens, comme une grande base de données dotée d’un pouvoir d’achat. Malheureusement, bien souvent, nous ne sommes pas conscients que payer avec des données, c’est payer”, a-t-il expliqué.

En plus de se concentrer sur les risques liés aux innovations majeures comme l’intelligence artificielle, le manifeste énonce une série de mesures qualifiées d’urgentes pour garantir que la technologie reste au service de l’humanité, et non contre elle. En ce sens, les signataires préconisent en premier lieu la création de lois et de réglementations qui limitent l’utilisation abusive de la technologie, notamment en termes de surveillance, de confidentialité et de monopoles.

Parmi les inquiétudes figure la possibilité que les États contrôlent de manière excessive et généralisée les citoyens, par le biais de la reconnaissance faciale ou d’autres technologies qui ne garantissent pas l’anonymat dans les espaces publics. Aux États-Unis, par exemple, La technologie biométrique est largement utilisée dans les aéroports, tant par les compagnies aériennes que par les agences gouvernementales en charge de la sécurité aérienne. « La vidéosurveillance avec technologie de reconnaissance faciale ouvre une boîte de Pandore qui menace notre vie privée et notre anonymat dans les espaces publics. “Cela représente un pas différentiel vers le suivi systématique de nos mouvements et le contrôle de nos vies”, cite le manifeste, rappelant qu’Amnesty International a appelé à interdire l’utilisation des systèmes de reconnaissance faciale, considérés comme une forme de surveillance de masse.

José María Lassalle, ancien secrétaire d’État à l’Agenda numérique et directeur du Centre ESADE pour l’humanisme technologique, a insisté sur les implications que l’IA peut avoir dans les guerres. « L’intelligence artificielle est quelque chose qui essaie d’être quelqu’un, mais sans conscience. Et cela modifie les axes de la capacité humaine à comprendre cette technologie, et cela se voit très clairement dans le domaine des armes meurtrières », a-t-il déclaré lors de la présentation. “Son application dans les guerres, qui est une expérience humaine malheureuse qui nous accompagne depuis nos origines en tant qu’espèce, peut être perturbatrice.”

De même, le manifeste propose la mise en œuvre de mesures réglementaires “juridiquement contraignantes”, dans le but de défendre les citoyens contre les abus que peuvent commettre les entreprises privées – et dans certains cas, les gouvernements d’États autoritaires. Cela inclut l’interdiction de la publicité micro-ciblée, la protection des neurodroits au niveau constitutionnel, la législation internationale contre les armes autonomes mortelles et le « droit à la déconnexion », qui garantit l’accès aux services publics de manière non numérique.

Elena Herrero-Beaumont, co-fondatrice du cabinet de conseil Ethosfera, s’est particulièrement concentrée sur l’accès aux données et l’éthique dans la conception des algorithmes, proposant des réglementations pour garantir leur intégrité. “À l’heure actuelle, il est impossible pour les entreprises journalistiques qui produisent traditionnellement de l’information de rivaliser avec les grandes plateformes technologiques”, a prévenu Herrero-Beaumont, qui a recommandé la prévention de la publicité micro-ciblée comme mesure cruciale pour éviter cette dérive.

Los firmamentos han recomendado además la implantación de iniciativas educativas para mejorar la alfabetización digital de la población, fomentando una comprensión más profunda de los impactos y limitaciones de la tecnologÃa, asà como el desarrollo de habilidades crÃticas para manejar la influencia tecnológica en la société.

Vous pouvez suivre Technologie EL PAÍS dans Facebook oui X ou inscrivez-vous ici pour recevoir notre bulletin d’information semanal.