Op-Ed: Pourquoi devrions-nous nous inquiéter de l’investissement de Big Tech dans une nouvelle technologie cérébrale

En juillet, des scientifiques ont rapporté avoir utilisé un implant neuronal dans le cerveau d’un homme pour restaurer sa capacité à communiquer. L’homme, connu sous le nom de Pancho, est partiellement paralysé et incapable de produire un discours intelligible depuis qu’il a subi un grave accident vasculaire cérébral en 2003.

La nouvelle technologie enregistre l’activité cérébrale de Pancho avec un réseau d’électrodes, analyse l’activité pour détecter les mots qu’il essaie de dire, puis traduit ces intentions en mots écrits qui peuvent être affichés sur un écran d’ordinateur. Il s’agit de la dernière avancée dans le domaine en pleine expansion des interfaces cerveau-ordinateur, ou BCI. Des systèmes similaires ont fait la une des journaux pour permettre aux personnes paralysées du cou aux pieds de contrôler les curseurs d’ordinateur et les stimulateurs musculaires directement avec leurs pensées.

Les interfaces cerveau-ordinateur permettent aux ordinateurs de lire ou d’insérer des informations dans un cerveau vivant. Nous verrons sans aucun doute plus de gros titres sur les BCI à mesure que les nouvelles avancées s’appuieront sur les succès antérieurs. C’est pourquoi nous devons maintenant nous poser des questions fondamentales : comment fonctionnent ces technologies ? Pourraient-ils être utilisés pour lire subrepticement dans nos pensées ? Devrions-nous être excités ou inquiets de la façon dont les BCI peuvent affecter notre société ?

Alors que les cerveaux et les ordinateurs sont complexes, les interfaces cerveau-ordinateur sont possibles en raison de deux faits simples. La première est que votre cerveau contient des centaines de minuscules cartes. Chacune de ces cartes représente des caractéristiques spécifiques de vos sensations physiques et des actions prévues. Plutôt que d’être faites de papier et d’encre, les cartes sont constituées de cellules cérébrales et rendues avec une activité électrique. Et surtout, l’ensemble de base des cartes cérébrales et leurs emplacements dans le cerveau sont très similaires d’un individu à l’autre.

Grâce à leurs fonctions spécialisées et leurs emplacements universels, les cartes cérébrales sont des points d’entrée idéaux pour les technologies BCI. Pour glaner des informations dans le cerveau de Pancho sur ce qu’il essayait de dire, les scientifiques ont ouvert une partie de son crâne et placé 128 électrodes contre une carte du cerveau qui représente le mouvement de la langue, des lèvres, de la mâchoire et du larynx – en d’autres termes, les parties de son corps qui génèrent des sons parlés. Cela a permis aux scientifiques de mesurer l’activité électrique dans la carte du cerveau qui représentait les mots qu’il essayait de dire.

La capture de signaux à partir d’une carte du cerveau n’est que la première étape pour créer un BCI utile. Bien que l’emplacement d’une carte du cerveau soit le même d’un individu à l’autre, les détails – quels modèles d’activité au sein de la carte moyenne – diffèrent d’une personne à l’autre. Dans un sens, les caractéristiques uniques de vos cartes cérébrales spécifiques servent comme une sorte de cryptage, protégeant vos pensées et sensations spécifiques des éventuels indiscrets.

Cela nous amène au deuxième fait qui rend les BCI possibles. Grâce aux progrès de l’apprentissage automatique, les scientifiques ont développé des programmes capables d’apprendre à reconnaître des modèles clés dans une vaste mer de nombres. Ils entraînent ces programmes à décoder les signaux cérébraux en leur fournissant des tonnes d’exemples. Mais si le but de la formation de tels programmes, appelés décodeurs, est de déchiffrer les signaux du cerveau d’un individu particulier, alors ces exemples doivent également provenir de ce cerveau spécifique.

Les chercheurs qui développent des BCI créent souvent de tels exemples en demandant à un individu de penser à des pensées spécifiques à des moments spécifiques, créant ainsi un programme neuronal dont le programme peut tirer des enseignements. Dans le cas de Pancho, les scientifiques ont collecté près de 10 000 exemples d’activité dans sa carte vocale pendant qu’il essayait de dire des mots courants présentés sur un écran et 250 autres exemples pendant qu’il essayait de dire des phrases construites à partir de ces mots. Même avec cette formation approfondie, ses décodeurs se sont trompés entre 25 et 50 % du temps.

Alors que les caractéristiques universelles et les emplacements des cartes cérébrales en font des portails évidents pour les BCI, les caractéristiques uniques de vos cartes cérébrales ont tendance à les protéger des regards indiscrets. Dans les cas où les BCI ont réussi à lire des pensées ou des intentions spécifiques à partir d’un cerveau, cela s’est fait avec la permission et la conformité de la personne dont le cerveau a été lu.

Mais il existe des moyens subreptices d’entraîner des décodeurs sur votre cerveau à votre insu. Cela peut arriver si vos données neuronales, qu’elles soient collectées à partir d’électrodes dans votre cerveau ou de capteurs intégrés dans un bandeau ou un chapeau, tombent entre les mains d’entreprises avec des informations détaillées sur vos activités.

Par exemple, Facebook a financé en partie la recherche qui a créé le BCI de Pancho et possède son propre programme de développement de BCI en interne. La société a déclaré avoir travaillé sur des BCI qui décodent les signaux neuronaux collectés par un appareil portable non invasif qui pourrait permettre aux gens de taper avec leur esprit en imaginant parler. Bien que les déclarations récentes de Facebook indiquent qu’ils s’éloignent de ces plans spécifiques, ils continuent de rechercher activement d’autres concepts BCI.

Avant que le grand public ne commence à faire la queue pour de telles technologies, nous devons nous demander comment nous prévoyons de protéger les droits personnels et la vie privée dans un monde où une telle technologie est largement utilisée.

Avec une mine de données sur votre historique d’achat et votre comportement en ligne, de nombreuses entreprises en savent déjà plus sur vous que vous ne le souhaiteriez. Si les entreprises ou les annonceurs pouvaient accéder à vos données neuronales personnelles, la menace pour la vie privée serait énorme.

Et si une entreprise comme Facebook ou Google était autorisée à collecter des signaux de votre cerveau pendant que vous utilisez ses produits pour rédiger des messages, effectuer des achats ou parcourir vos flux, elle aurait alors les données dont elle a besoin pour entraîner un décodeur à lire certains de vos pensées et actions. Ce qu’ils pourraient lire serait limité et parfois incorrect, mais ce serait l’accès à vos pensées que vous n’aviez pas l’intention de leur accorder.

Comme toutes les technologies, les interfaces cerveau-ordinateur ne sont pas intrinsèquement bonnes ou mauvaises. Ce sont simplement des outils. Les BCI pourraient offrir d’énormes avantages aux personnes qui ont été blessées par une blessure ou une maladie. Pourtant, ils soulèvent également des dangers importants. Les entreprises technologiques les plus riches de la planète investissent des centaines de millions de dollars dans le développement de meilleurs BCI, car elles parient que les BCI seront la prochaine technologie de rupture au monde. S’ils ont raison, nous ne pouvons pas faire confiance à ces sociétés pour s’autoréglementer.

Plus tôt cette année, un groupe de neuroscientifiques et d’éthiciens a recommandé que les Nations Unies créent une commission chargée d’examiner comment les BCI et autres neurotechnologies devraient être supervisés et réglementés. Aux niveaux international et national, les organes directeurs devraient commencer à mettre en place des protections pour limiter la manière dont les données neuronales peuvent être collectées, utilisées et partagées.

En plus de récolter les bénéfices des BCI, nous devons nous assurer que nous avons les moyens de nous protéger des entreprises avec toutes les incitations à exploiter cette technologie – et le fonctionnement interne de notre propre cerveau – pour leur gain financier.

Rebecca Schwarzlose est une neuroscientifique cognitive qui étudie le développement du cerveau à l’Université de Washington à St. Louis. Elle est l’auteur de « Brainscapes: The Warped, Wondrous Maps Written in Your Brain – and How They Guide You ».