La société d’implants cérébraux d’Elon Musk est approuvée pour les tests humains. À quel point devrions-nous être alarmés ? | Elon Musk

La société d’implants cérébraux d’Elon Musk, Neuralink, a reçu la semaine dernière l’approbation réglementaire pour mener le premier essai clinique de son dispositif expérimental chez l’homme. Mais la promotion explosive de la technologie par le dirigeant milliardaire, son bilan de leadership dans d’autres entreprises et les préoccupations en matière de bien-être animal liées aux expériences Neuralink ont ​​sonné l’alarme.

“J’ai été surprise”, a déclaré Laura Cabrera, neuroéthicienne au Rock Ethics Institute de Penn State, à propos de la décision de la Food and Drug Administration américaine de laisser l’entreprise poursuivre ses essais cliniques.

Le leadership erratique de Musks sur Twitter et son éthique de technologie “bouge vite” soulèvent des questions sur la capacité de Neuralink à superviser de manière responsable le développement d’un dispositif médical invasif capable de lire les signaux cérébraux, a expliqué Cabrera. “Va-t-il voir un dispositif d’implant cérébral comme quelque chose qui nécessite non seulement une réglementation supplémentaire, mais aussi une considération éthique?” dit-elle. “Ou va-t-il simplement traiter cela comme un autre gadget?”

Neuralink est loin d’être la première ou la seule entreprise à travailler sur des dispositifs d’interface cérébrale. Pendant des décennies, des équipes de recherche du monde entier ont exploré l’utilisation d’implants et de dispositifs pour traiter des conditions telles que la paralysie et la dépression. Déjà, des milliers de personnes utilisent des neuroprothèses comme les implants cochléaires pour l’audition. Mais le large éventail de capacités que Musk promet du dispositif Neuralink a suscité le scepticisme des experts.

Neuralink est entré dans l’industrie en 2016 et a conçu une interface cerveau-ordinateur (BCI) appelée Link – une puce informatique chargée d’électrodes qui peut être cousue à la surface du cerveau et la connecte à l’électronique externe – ainsi qu’un dispositif robotique qui implante la puce.

La conception semble utiliser un nouveau type d’électrode, a déclaré John Donoghue, un neuroscientifique de l’Université Brown qui a dirigé l’équipe qui a développé le interface cerveau-ordinateur ‘BrainGate‘ pour redonner du mouvement aux personnes paralysées.

Musk a affirmé que l’appareil de Neuralink pourrait être utilisé pour une gamme d’utilisations thérapeutiques, pour traiter des conditions telles que la cécité, la paralysie, la dépression. Mais il a également déclaré que l’objectif final était de créer un “dispositif grand public” qui pourrait connecter directement l’esprit d’un utilisateur aux superordinateurs et aider les humains à suivre l’intelligence artificielle. Il a également suggéré que l’appareil pourrait éventuellement extraire et stocker des pensées, comme “un disque de sauvegarde pour votre être non physique, votre âme numérique”.

L’entreprise n’est pas encore là. Jusqu’à présent, Neuralink a testé ses puces sur des animaux. Une vidéo publiée en 2021 montre un singe utilisant l’appareil pour jouer au jeu vidéo Pong avec son esprit et un autre de 2022 semblait montrer un singe tapant sur un ordinateur par télépathie.

L’approbation de la FDA a franchi le premier obstacle vers un essai clinique humain, mais la portée, l’orientation et la conception d’une telle étude restent floues.

Les demandes et les processus d’approbation de la FDA ne sont pas accessibles au public. En tant qu’entreprise privée, Neuralink n’est pas non plus tenue de divulguer ces interactions réglementaires aux investisseurs.

Le site Web de Neuralink indique qu’il recherche des participants souffrant de paralysie, de cécité, de surdité ou d’incapacité à parler. Mais la société n’a pas répondu à la demande du Guardian pour plus de détails.

Dans un communiqué, un porte-parole de la FDA ne ferait que confirmer que Neuralink a été approuvé pour une exemption de dispositif expérimental (IDE) – le processus de la FDA qui permet à un dispositif d’être utilisé pour des études cliniques.

On ne sait pas non plus quand un tel procès aurait lieu. L’entreprise devrait constituer un comité d’examen institutionnel pour approuver et surveiller la recherche.

L’approbation de la FDA la semaine dernière intervient après que le régulateur a initialement rejeté l’offre précédente de Neuralink pour des essais cliniques en 2022, citant «des dizaines de lacunes» auxquelles la société a dû remédier avant les tests sur l’homme, selon un rapport de Reuters.

Selon l’agence de presse, les problèmes de sécurité liés à la batterie au lithium de l’implant et à la surchauffe potentielle, se demandent si les petits fils de la machine pourraient migrer vers d’autres parties du cerveau et si l’appareil ne peut pas être retiré sans endommager les tissus cérébraux.

On ne sait pas comment ces préoccupations ont été résolues. La FDA a refusé de commenter spécifiquement le processus de demande de Neuralink, mais le porte-parole a déclaré de manière générale que l’agence dispose d’un “processus scientifiquement rigoureux pour évaluer la sécurité et l’efficacité des dispositifs médicaux”. Elle a ajouté que la FDA a “un engagement profond pour assurer le soin responsable et humain des animaux” impliqués dans les tests.

Neuralink a refusé de commenter ses projets d’essais cliniques.

Chronologie exténuante, opérations bâclées

L’approbation de la FDA intervient également au milieu d’un examen continu des pratiques de test de Neuralink et des allégations de cruauté envers les animaux. La société a tué plus de 1 500 animaux depuis qu’elle a commencé à expérimenter sur eux en 2018, selon un autre rapport de Reuters. Bien que la mort de sujets d’expérimentation animale ne soit pas rare dans les laboratoires, les employés ont déclaré au service de presse que le taux de mortalité était plus élevé que nécessaire en raison du calendrier de développement exténuant de Musk, qui, selon eux, a conduit à plus d’erreurs et d’opérations bâclées.

D’anciens employés interrogés par Reuters ont qualifié certaines expériences de “hack jobs”. Dans une expérience bâclée, la mauvaise taille d’appareils a été installée sur 25 des 60 porcs utilisés pour les tests. Dans un autre, le dispositif de Neuralink a été accidentellement implanté dans la mauvaise vertèbre de deux porcs différents au cours de deux opérations chirurgicales distinctes, entraînant leur euthanasie en raison de la douleur et de la souffrance. Neuralink n’a pas répondu à la demande de commentaires de Reuters à l’époque. Et la FDA a refusé de commenter, citant des lois gardant les informations commerciales privées.

La plupart des fondateurs de l’entreprise, qui comprenaient les meilleurs scientifiques dans le domaine, ont démissionné. Depuis juillet 2022, seulement deux des huit membres fondateurs sont restés chez Neuralink.

“J’aimerais savoir ce que la FDA pensait”, a déclaré L Syd M Johnson, neuroéthicien au Center for Bioethics and Humanities de la SUNY Upstate Medical University. “L’une des préoccupations concernant Neuralink est qu’il ne fonctionne pas comme de nombreux autres laboratoires ou organisations de recherche”, a ajouté Johnson. “Il y a des inquiétudes quant au potentiel qu’ils effectuent une sorte de travail bâclé et que leurs données ne soient pas fiables.”

Les allégations ont conduit à des enquêtes en cours sur Neuralink de la part de plusieurs agences gouvernementales et membres du Congrès, y compris une enquête du ministère de l’Agriculture sur des allégations de maltraitance d’animaux et du ministère des Transports sur une mauvaise manipulation de matières bio-dangereuses à travers les frontières de l’État. Plus tôt ce mois-ci, les représentants démocrates Earl Blumenauer et Adam Schiff appelé le département américain de l’Agriculture pour enquêter sur les conflits d’intérêts au sein du conseil responsable de la surveillance des tests sur les animaux chez Neuralink. Dans un e-mail, l’USDA a déclaré qu’il ne pouvait pas confirmer ou infirmer l’enquête. Le ministère des Transports n’a pas répondu à une demande de commentaire.

“Je voudrais attendre de savoir comment se déroulent ces enquêtes et quelles en sont les conclusions avant de donner le feu vert à la société pour des essais”, a déclaré Cabrera. “Si les allégations s’avèrent vraies, cela soulève certainement des inquiétudes quant à la manipulation du cerveau des sujets humains.”

Neuralink n’a pas répondu à une demande de commentaire concernant les allégations. Dans un article de blog précédent répondant à des “articles récents” soulevant des “questions sur l’utilisation d’animaux de recherche par Neuralink”, la société a déclaré qu’elle était “absolument déterminée à travailler avec les animaux de la manière la plus humaine et éthique possible”. Il a déclaré à l’époque, en février 2022, qu’il n’avait «jamais reçu de citation des inspections de l’USDA de [its] installations et programme de soins aux animaux ».

La FDA n’inspecte généralement pas les installations de laboratoire dans le cadre de l’examen de leurs demandes d’essais cliniques, a déclaré Victor Krauthamer, professeur adjoint de génie biomédical qui a passé trois décennies à la FDA. Il a dit qu’il était impossible de savoir si c’était le cas dans ce cas.

“La FDA n’est pas vraiment chargée de la protection des animaux – elle est plus préoccupée par la qualité des données”, a-t-il déclaré. “S’il y avait des irrégularités dans les tests, ils auraient peut-être dû faire une inspection pour voir si les résultats étaient fiables ou non. Mais nous n’avons pas assez d’informations pour le savoir.

Les antécédents de Musk en matière de mauvaise gestion des données des utilisateurs sur Twitter soulèvent également des questions sur la capacité de son entreprise à gérer des données hautement sensibles extraites des participants à ses éventuels essais cliniques, ont déclaré Johnson et Cabrera.

“Il existe des préoccupations éthiques concernant la confidentialité, chaque fois que vous utilisez un appareil cérébral”, a déclaré Johnson. «Les choses à surveiller sont les suivantes: Neuralink aura-t-il accès aux données cérébrales des personnes chez qui ils implantent ces appareils? Que vont-ils en faire ? Et comment vont-ils protéger la vie privée des utilisateurs ? »

Neuralink n’a pas répondu aux questions sur la façon dont il prévoit de gérer les données des participants à l’essai.

Le marketing de Musk distingue Neuralink des autres entreprises et équipes des institutions publiques travaillant dans le domaine de la BCI, qui se sont concentrées sur l’utilisation des appareils pour traiter des conditions médicales spécifiques telles que les convulsions, les tremblements de Parkinson ou la paralysie.

L’industrie des “dispositifs de neuromodulation”, qui enregistrent ou stimulent l’activité neuronale, a dépassé les 6 milliards de dollars. Synchron, un autre fabricant de BCI, reçu Approbation de la FDA pour tester les implants cérébraux en juillet 2021 et Blackrock Neurotech, qui installe des implants cérébraux permettant aux personnes paralysées de contrôler les appareils numériques et les prothèses, mène des essais sur l’homme depuis plus d’une décennie.

Musk, quant à lui, a déclaré avoir fondé l’entreprise en grande partie en réponse aux craintes que l’intelligence artificielle ne prenne trop de pouvoir sur les humains. Le dispositif Neuralink permettrait aux humains de rivaliser avec une nouvelle IA sensible, a fait valoir Musk, déclarant: «J’ai créé [Neuralink] spécifiquement pour résoudre le problème de la symbiose de l’IA, qui, à mon avis, est une menace existentielle.

Même si Neuralink obtient l’approbation de la FDA pour les essais cliniques, la route sera longue pour que ses produits atteignent les consommateurs, selon les experts. Après avoir été agréées pour la recherche clinique, les entreprises conduisent généralement au moins deux séries d’essais avant de demander l’approbation de la FDA pour commercialiser un dispositif.

Neuralink devrait d’abord prouver que son implant est sûr, puis établir son efficacité dans le traitement de conditions spécifiques. Ce dernier est un domaine dans lequel les chercheurs du monde entier font un travail difficile mais prometteur, a déclaré Donoghue, neuroscientifique à l’Université Brown.

“La technologie pour implanter quelque chose dans le cerveau est très mature, mais où le mettre dans le cerveau et comment le stimuler est encore en cours d’élaboration, en particulier pour les maladies compliquées”, a-t-il déclaré.

Pourtant, il a dit qu’il n’aimait pas le marketing à la mode. La publicité de Musk pour l’appareil Neuralink a des parallèles avec ses plans pour Twitter, qu’il a acheté pour 44 milliards de dollars en 2022 et a promis de passer à une “application tout”, qui peut répondre à tous les besoins des utilisateurs à la fois.

“Je pense que cela écarte le niveau de complexité de l’ensemble”, a déclaré Donoghue. “S’attaquer à chaque condition est un gros effort, n’est-ce pas ? Et cela pourrait prendre beaucoup de temps. Et donc, je pense que nous devons faire très attention à respecter la dignité des personnes que nous essayons d’aider.