Plusieurs experts pointent le manque de transparence de Neuralink après qu’Elon Musk a déclaré que le premier implant cérébral fonctionnait

Le manque de transparence d’Elon Musk dans sa communication concernant sa société d’implants cérébraux Neuralink bafoue les normes scientifiques et éthiques, soulève des questions sur la sécurité des patients et risque de faire reculer l’ensemble du domaine des neurotechnologies, ont déclaré plusieurs experts à Forbes, après que le milliardaire a vanté les premiers succès obtenus sur le premier patient humain de la société la semaine dernière.

Article de Robert Hart pour Forbes US – traduit par Flora Lucas

Ce qu’il faut retenir

Marcello Ienca, professeur d’éthique de l’IA et des neurosciences à l’université technique de Munich, souligne que les informations sur Neuralink et ses travaux sont diffusées « par le biais de communications occasionnelles sur les réseaux sociaux » plutôt que par les canaux traditionnels de la science, tels que les publications évaluées par d’autres scientifiques, les dépôts publics ou même les simples pré-impressions.

Cela « semble contourner les protocoles établis qui sous-tendent l’intégrité scientifique », a déclaré Marcello Ienca, empêchant les experts d’évaluer ou de comprendre « la portée et l’impact complets » de toute avancée revendiquée.

« Un tweet n’est pas exactement un rapport scientifique révisé par d’autres scientifiques », a déclaré L. Syd M Johnson, éthicien au centre de bioéthique et de sciences humaines de l’université médicale SUNY Upstate, ajoutant que la brève mise à jour d’Elon Musk donnait peu de détails sur le rétablissement du patient, sur le degré de contrôle qu’il a sur la souris ou sur le fait que le terme « souris » désigne en réalité le curseur affiché à l’écran.

La plupart des essais cliniques sont également enregistrés dans la base de données publique ClinicalTrials.gov dans un souci de transparence, de responsabilité et de bénéfice pour la science, a déclaré Laura Cabrera, neuroéthicienne au Rock Ethics Institute de l’université d’État de Pennsylvanie, qui a appelé à la création de « moyens plus rigoureux » pour responsabiliser les entreprises opérant dans ce domaine, les rendre transparentes et les obliger à respecter des normes de déclaration similaires à celles des essais financés par le gouvernement fédéral.

Bien qu’il ne soit pas illégal pour Neuralink de ne pas avoir enregistré son essai clinique, Marcello Ienca a déclaré que le fait de ne pas le faire « viole les directives éthiques fondamentales pour la recherche biomédicale », notamment la Déclaration d’Helsinki, une déclaration fondamentale de principes éthiques pour la recherche médicale impliquant des êtres humains, ajoutant que Neuralink n’a pas communiqué sur la mise en place d’un comité d’éthique interne ou l’établissement de son propre code d’éthique et ne s’est pas engagé dans des activités majeures d’organisations politiques travaillant dans l’espace comme l’OCDE.

Neuralink n’a pas répondu à la demande de commentaire de Forbes.

Principale citation

Marcello Ienca a accusé Neuralink de mettre en danger l’ensemble du domaine des neurotechnologies en raison de son opacité et de son incapacité à définir sa position sur d’importantes questions éthiques et sociales liées à ses travaux, tout en poursuivant la recherche sur l’homme. « Si vous décidez de jouer avec le feu dans une maison, vous augmentez le seuil de risque non seulement pour vous, mais aussi pour toute la maison », a-t-il déclaré. « Je crains que le mépris de Neuralink pour les aspects éthiques de sa technologie ne se retourne contre l’ensemble de la communauté des neurotechnologies. » Marcello Ienca a mis en garde contre le risque de ralentissement du développement d’une innovation technologique susceptible d’aider des millions de personnes souffrant de troubles neuropsychiatriques et de maladies mentales, dont beaucoup ne peuvent être guéries ou même traitées efficacement avec les technologies actuelles. Compte tenu des enjeux, « nous ne pouvons pas nous permettre un scandale de type “Cambridge Analytica” impliquant le cerveau humain », a déclaré Marcello Ienca.

Contexte

Neuralink a obtenu en septembre l’autorisation de recruter des patients pour tester la capacité de son dispositif cérébral implantable à aider les personnes paralysées à retrouver les fonctions perdues en contrôlant des ordinateurs par la pensée. Elon Musk a annoncé que le premier patient avait reçu l’implant en janvier et, la semaine dernière, il a déclaré qu’il semblait s’être complètement rétabli et qu’il pouvait déplacer une souris sur un écran « simplement par la pensée ». Le milliardaire de Tesla a diffusé ces deux communications par le biais de messages informels sur X, la plateforme de réseaux sociaux qu’Elon Musk a rachetée de manière controversée en 2022. Le milliardaire a laissé entendre que les premiers produits de Neuralink incluraient la « télépathie », qui permettrait aux utilisateurs de contrôler un téléphone ou un ordinateur « simplement par la pensée », ainsi que des fonctions qui pourraient redonner la vue aux personnes aveugles. Elon Musk s’est également montré ouvert sur ses objectifs à long terme pour Neuralink et espère que la technologie sera utilisée plus largement pour améliorer la mémoire et élever l’intelligence et, en fin de compte, servir de contrepoids aux risques de l’IA. L’entreprise a été critiquée pour son utilisation d’animaux dans les expériences et des questions ont été soulevées quant à l’indépendance d’un conseil de réglementation régissant ses recherches sur les animaux. L’entreprise a nié tout acte répréhensible et a souligné qu’elle « s’engage à travailler avec les animaux de la manière la plus humaine et la plus éthique possible ».

Contra

À l’instar d’autres experts avec lesquels Forbes s’est entretenu, Rafael Yuste, neurobiologiste à Columbia, a déclaré que l’annonce des progrès de Neuralink n’était « pas une nouvelle ». Elle est seulement rapportée comme telle « parce qu’une entreprise associée à Elon Musk le fait », a-t-il déclaré, soulignant les décennies de recherche sur le sujet et les nombreuses autres entreprises opérant dans le domaine de la neurotechnologie. Rafael Yuste a déclaré qu’il n’avait « aucune inquiétude » concernant la dernière expérience de Neuralink. Il s’agit d’un dispositif médical qui « doit être approuvé par la FDA » et « les données collectées sont protégées par l’HIPAA », a-t-il expliqué, faisant référence à la série de lois fédérales régissant les informations de santé protégées. « Je souhaite la bienvenue à tous ceux qui veulent développer des dispositifs médicaux pour aider les patients », a-t-il déclaré. Laura Cabrera a exprimé un sentiment similaire et a déclaré qu’il était peu probable que de nouveaux droits soient nécessaires pour régir les utilisations médicales des neurotechnologies, car celles-ci devraient déjà être bien couvertes par la réglementation existante.

À surveiller

Si les utilisations médicales des neurotechnologies sont bien couvertes par la réglementation existante, Rafael Yuste a averti que « la neurotechnologie commerciale n’est absolument pas réglementée ». Ce secteur en pleine expansion, qui comprend des technologies non implantables telles que des capteurs externes, soulève une série de questions sociales, juridiques et éthiques concernant la vie privée, l’accès et la liberté de pensée, et exige un cadre de droits pour régir les neurotechnologies et protéger les droits humains contre les abus ou les mauvais usages potentiels. Rafael Yuste et d’autres appellent ce cadre les « droits neuronaux ». L’utilisation et l’exploitation potentielle des vastes quantités de données cérébrales générées par les implants et les capteurs sont particulièrement préoccupantes, ont averti les experts. Neuralink se distingue comme une entreprise de neurotechnologie à laquelle de telles considérations pourraient s’appliquer, bien que ce soit encore loin dans le futur. « À ma connaissance, Neuralink est la seule entreprise de neurotechnologie à avoir publiquement avoué que son objectif à long terme était de développer une neurotechnologie implantable destinée à l’amélioration de l’être humain », a déclaré Marcello Ienca. En principe, il n’y a rien de mal à l’amélioration, comme des outils qui augmentent ou ajoutent des fonctions cérébrales telles que la mémoire ou la vision pour les personnes en bonne santé et qui vont au-delà des capacités naturelles, mais il y a un risque réel de créer une « société stratifiée divisée non seulement par la richesse ou les opportunités, mais aussi par les capacités cognitives et sensorielles ». L. Syd M Johnson, quant à lui, a déclaré que l’amélioration « ne changerait rien ». Les riches auront « les mêmes avantages et le même pouvoir » qu’aujourd’hui.

Ce que l’on ignore

Des experts ont déclaré à Forbes que l’on ignore ce qu’il adviendra des sujets humains de Neuralink une fois que l’essai clinique de l’implant cérébral sera terminé. « Lorsque l’essai clinique sera terminé, les sujets seront-ils livrés à eux-mêmes ? », a demandé L. Syd M Johnson, soulignant les nombreux risques liés au type d’intervention chirurgicale nécessaire à la pose d’un implant, la possibilité que le dispositif ou ses performances se dégradent avec le temps et le fait que certains sujets pourraient tout simplement perdre l’accès à leur implant une fois que l’essai sera terminé.

Principale critique

« Le discours d’Elon Musk sur l’aide aux personnes handicapées, à savoir donner une fonctionnalité corporelle complète aux tétraplégiques, est malhonnête et nuisible », a déclaré L. Syd M Johnson, se demandant si les personnes handicapées veulent des implants cérébraux ou contrôler les smartphones avec leurs pensées. « Il dit fondamentalement que les personnes handicapées sont cassées et doivent être réparées avec des implants cérébraux invasifs », a déclaré L. Syd M Johnson, notant qu’il y a « tant de choses que les sociétés pourraient faire maintenant, mais qu’elles ne font pas, pour améliorer la mobilité, l’accès à l’emploi et à l’éducation et à des lieux de vie décents pour les personnes handicapées ».

Évaluation Forbes

Forbes estime la fortune d’Elon Musk à 207 milliards de dollars, ce qui fait de lui la deuxième personnalité la plus riche au monde, derrière le géant français du luxe Bernard Arnault et devant le fondateur d’Amazon Jeff Bezos, dont les fortunes sont respectivement estimées à 229,6 milliards de dollars et 195,7 milliards de dollars.

À lire également : Neuralink : le premier patient équipé d’une puce cérébrale peut contrôler une souris d’ordinateur par la pensée, d’après Elon Musk