L’ONU met en garde contre le danger des puces d’intelligence artificielle

Il existe de nombreuses utilisations de l’intelligence artificielle qui préoccupent déjà l’Organisation des Nations Unies (ONU). Le plus récent appel à l’attention concerne sa mise en œuvre dans le neurotechnologie. Plus précisément, avec le risque que représenterait l’implantation de puces d’intelligence artificielle chez l’homme. Ils avertissent que, par exemple, il existe un danger potentiel pour la vie privée et la liberté de nos pensées.

Utiliser l’intelligence artificielle “C’est comme mettre des stéroïdes dans la neurotechnologie”, Mariagrazia Squicciarini, économiste à l’Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO), a déclaré au AFP. Cet organisme a tenu une conférence à Paris la semaine dernière pour discuter des implications éthiques de cette technologie dans la prise en charge des problèmes neurologiques. Et il a décidé qu’un cadre réglementaire était urgent.

Ils n’exagèrent pas, ni ne vont trop loin. Par exemple, Elon Musk, le patron de Twitter et de Tesla, a reçu en mai l’approbation des autorités américaines pour commencer à tester des puces cérébrales sur des humains. Le magnat a expliqué que l’un de ses premiers objectifs serait redonner la mobilité ou la vision aux patients qui en ont besoin.

Le musc n’est pas le seul. En Suisse, un homme a remarche après 12 ans, grâce à des implants cérébraux utilisant l’intelligence artificielle. Pendant ce temps, au Texas, une équipe de scientifiques a développé un décodeur capable de lire dans les pensées et de traduire les pensées en un flux continu de texte. Et en mars, un autre groupe d’une université au Japon a inventé un autre “traducteur” qui transforme les pensées en images.

La neurotechnologie pourrait aider à résoudre de nombreux problèmes de santé. «Mais il pourrait aussi accéder et manipuler le cerveau des gens. et produire des informations sur nos identités et nos émotions », a déclaré Audrey Azoulay, Directrice générale de l’UNESCO, dans une déclaration en juin. Il a ajouté: “Cela pourrait menacer nos droits à la dignité humaine, à la liberté de pensée et à la vie privée.”

L’ONU appelle à réglementer l’utilisation des puces d’intelligence artificielle

Les investissements dans les entreprises de neurotech ont augmenté de 700 % entre 2014 et 2021, selon un nouveau rapport de l’Unesco. grimpé jusqu’à 33,2 milliards de dollars.

Rafael Yuste, chercheur au Centre national de neurotechnologie d’Espagne et à l’Université de Columbia, a participé à une étude dans laquelle ils ont analysé la accords consommateurs-utilisateurs de 18 grandes entreprises de neurotechnologie du monde. « L’essentiel, c’est qu’il y a un manque total de protection ; en fait, on ne peut pas imaginer moins de protection pour les données cérébrales », a déclaré Yuste lors de la conférence de l’UNESCO la semaine dernière.

L’UNESCO a déjà élaboré en 2021 un manuel de recommandations sur l’éthique de l’intelligence artificielle. Le document a été adopté par 193 États membres. La proposition se concentre sur quatre piliers : les droits de l’homme, garantir la paix, la diversité et l’inclusion, et l’environnement. L’UNESCO soutient que cela pourrait être le point de départ pour la création d’un cadre réglementaire international.

L’ONU appelle également à élargir et à diversifier la recherche sur les neurotechnologies et l’intelligence artificielle. Plus de 80 % des publications en neurosciences à fort impact ont été produites par seulement 10 pays. Et seulement six détiennent 87% des brevets en neurotechnologie, selon un post récent de l’Unesco. Près de la moitié se trouvent aux États-Unis.

“J’avais l’impression qu’il y avait quelqu’un dans ma tête”

Hannah avait 16 ans lorsqu’elle a développé une épilepsie. Ses crises sont devenues si graves que sa vie a été complètement transformée. Pour reprendre le contrôle, il a accepté de se faire installer une puce à l’intérieur de son crâne, à la surface de son cerveau. Mais l’appareil n’a pas fonctionné comme prévu.

“Je voulais toujours être danseuse de ballet. J’aurais fait n’importe quoi, juste pour avoir la chance de danser à nouveau.”, a raconté Hannah, dans un témoignage partagé par l’UNESCO. Depuis le début des années 2000, des expérimentations sont menées avec des appareils qui émettent un signal d’alerte lorsqu’ils détectent l’imminence d’une crise d’épilepsie. Le but de ce signal est que le patient ait le temps de s’allonger sur un lit ou un canapé. De cette façon, vous pourriez éviter de vous blesser gravement.

Hannah avait un autre appareil hors du corps avec trois lumières. S’ils sonnaient et clignotaient en rouge, la crise se produirait bientôt. Mais Hannah a subi plus de 100 crises par jour. Et au lieu de l’aider, l’artefact est devenu un obstacle de plus. « Mon appareil émettait des bips toutes les deux secondes… Cela m’a fait descendre à l’université. J’avais l’impression qu’il y avait quelqu’un dans ma tête, et ce n’était pas moi”, a-t-il expliqué.

L’UNESCO a présenté le cas comme un exemple des coûts que certaines expériences de neurotechnologie peuvent avoir pour un patient. “Certains qui ont participé à des essais cliniques rapportent une perte d’identité personnelle et d’autonomie qui peut être profondément troublante.” projection l’organisation. De tels aspects, soulignent-ils, devraient être pris en compte dans les cadres réglementaires.

La voie vers une régulation internationale

L’UNESCO insiste sur l’appel que l’ONU lance depuis quelques mois en faveur d’une régulation internationale de l’intelligence artificielle. L’une d’elles a été menée par le secrétaire général de l’ONU, António Guterres, qui a soutenu en juin la création d’un organe mondial de surveillance, similaire à l’Agence internationale de l’énergie atomique (AIEA).

Bien que la création d’une telle entité corresponde aux États, le bureau de Guterres a déjà annoncé la formation d’un conseiller principal pour répondre aux préoccupations concernant le développement de cette technologie. Il serait opérationnel avant la fin de l’année et fournirait des recommandations sur les modalités de gouvernance.

La conversation va s’intensifier cette semaine au Conseil de sécurité de l’ONU. L’organisme tiendra mardi sa première discussion officielle sur l’intelligence artificielle, dirigée par la Grande-Bretagne. D’accord avec Reuter, Le ministre britannique des Affaires étrangères, James Cleverly, plaidera pour un dialogue international sur son impact sur la paix et la sécurité mondiales.