La neurotechnologie suralimentée par l’IA menace la vie privée mentale, selon l’UNESCO

L’agence des Nations unies pour la science et la culture a commencé à élaborer un “cadre éthique” mondial pour répondre aux préoccupations en matière de droits de l’homme posées par les neurotechnologies, a-t-elle déclaré lors d’une conférence à Paris.

La neurotechnologie est un domaine en pleine croissance qui cherche à connecter des appareils électroniques au système nerveux, principalement jusqu’à présent pour traiter les troubles neurologiques et restaurer le mouvement, la communication, la vision ou l’ouïe.

Récemment, la neurotechnologie a été suralimentée par des algorithmes d’intelligence artificielle qui peuvent traiter et apprendre des données d’une manière jamais possible auparavant, a déclaré Mariagrazia Squicciarini, économiste de l’UNESCO spécialisée dans l’IA.

“C’est comme mettre la neurotech sous stéroïdes”, dit-elle à l’AFP.

Gabriela Ramos, sous-directrice générale de l’UNESCO pour les sciences sociales et humaines, a déclaré que cette convergence de la neurotechnologie et de l’IA était “de grande portée et potentiellement nocive”.

“Nous sommes sur la voie d’un monde dans lequel les algorithmes nous permettront de décoder les processus mentaux des gens et de manipuler directement les mécanismes cérébraux qui sous-tendent leurs intentions, leurs émotions et leurs décisions”, a-t-elle déclaré lors de la conférence.

En mai, des scientifiques aux États-Unis ont révélé qu’ils avaient utilisé des scanners cérébraux et l’IA pour transformer “l’essentiel” de ce que les gens pensaient en mots écrits – tant qu’ils avaient passé de longues heures à l’intérieur d’une grande machine IRMf.

Plus tard ce mois-là, la société Neuralink du milliardaire Elon Musk a reçu l’autorisation de tester ses implants cérébraux de la taille d’une pièce de monnaie sur des humains aux États-Unis.

Musk a déclaré que son objectif ultime était de s’assurer que les humains ne soient pas dépassés intellectuellement par l’IA, bien qu’il ait lancé jeudi sa propre société d’intelligence artificielle xAI.

Squicciarini a souligné que l’UNESCO ne disait pas que la neurotechnologie est une mauvaise chose.

“Si quoi que ce soit, c’est fantastique”, a-t-elle déclaré, soulignant comment la technologie pourrait permettre aux aveugles de voir à nouveau ou aux personnes paralysées de marcher.

Mais avec la neurotechnologie “progressant à une vitesse fulgurante”, le secrétaire général de l’ONU, Antonio Guterres, a déclaré que des directives éthiques étaient nécessaires pour protéger les droits de l’homme.

Les investissements dans les entreprises de neurotechnologie ont été multipliés par 22 entre 2010 et 2020, atteignant 33,2 milliards de dollars, selon un nouveau rapport de l’UNESCO co-écrit par Squicciarini.

Le nombre de brevets pour les dispositifs neurotechnologiques a doublé entre 2015 et 2020, les États-Unis représentant près de la moitié de tous les brevets dans le monde, selon le rapport.

Le marché des dispositifs neurotechnologiques devrait atteindre 24,2 milliards de dollars d’ici 2027.