La puissance technologique dans le monde d’aujourd’hui est beaucoup trop concentrée
Vous n’avez pas besoin d’être un luddite pour avoir de sérieux doutes sur les implants cérébraux. Il y a certainement des utilisations bénéfiques, mais une fois que les interfaces cerveau-ordinateur seront disponibles dans le commerce, nous ne pouvons ni prédire ni contrôler à quoi elles serviront. Il y a un risque que nous finissions rapidement et inconsidérément par changer ce que signifie être humain. Avec seulement une interface indirecte avec le cerveau humain, les réseaux de médias sociaux ont profondément transformé la société humaine. Nous découvrons encore comment les réseaux d’information omniprésents influencent la cognition humaine, mais nous en savons déjà assez pour nous préoccuper de l’impact sur la pensée rationnelle et la formation de l’opinion collective.
Il y a donc de bonnes raisons d’être extrêmement prudent et délibéré quant à l’adoption de la technologie des implants cérébraux. Mais quand vous réalisez que des gens comme Elon Musk contrôlent désormais la direction de son développement, et que le mécanisme de régulation des États-Unis profondément polarisés est le seul gardien, vous devez être plus que inquiet. Les décisions fantaisistes, erratiques et mercurielles de Musk sur Twitter devraient amener les régulateurs et les décideurs à se méfier de permettre à Neuralink, une société de technologie d’implant cérébral qu’il possède, de développer davantage cette technologie, sans parler de la commercialiser. Pourtant, les régulateurs américains peuvent simplement évaluer les aspects techniques et éthiques de la technologie de Neuralink. Ils n’ont ni le mandat ni la capacité d’évaluer les risques d’une technologie aussi critique entre les mains d’un homme d’affaires comme Musk.
L’entreprise ferait actuellement l’objet d’une enquête sur des pratiques présumées contraires à l’éthique concernant les expérimentations animales. S’il y a une part de vérité dans ces accusations, alors il y a bien plus en jeu que l’abus et le meurtre d’animaux. Le manque de scrupules est souvent fongible, et une culture d’entreprise qui n’est pas éthique à l’égard des animaux peut ne pas être très engagée à être éthique avec les humains non plus. Je ne vise pas une seule entreprise, mais je souligne plutôt les risques sociaux liés à l’activité des implants cérébraux.
Maintenant, il y a certainement un cas raisonnable pour utiliser les implants cérébraux strictement à des fins thérapeutiques médicales, comme c’est le cas pour les stimulateurs cardiaques, les appareils auditifs et les prothèses. Le problème est que la ligne qui sépare le thérapeutique du cosmétique, de l’instrumental, du récréatif et de l’amélioration est floue. Les implants sont également piratables. Les incitations commerciales pousseront la technologie des implants cérébraux à se déplacer vers les extrémités non thérapeutiques les plus lucratives du spectre. Une fois le génie sorti de la bouteille, il sera impossible de le remettre en place.
Malgré les actualités de Musk qui font la une des journaux sur les réseaux sociaux, la technologie des implants cérébraux elle-même est dans plusieurs années. Mais même plusieurs années sont trop rapides pour un monde avec un ordre dysfonctionnel, une politique polarisée et des organismes de réglementation épuisés essayant de rattraper le rythme de la technologie. Il existe peu de mécanismes mondiaux de coordination des politiques technologiques, et le conflit entre les États-Unis et la Chine crée des incitations à la surenchère plutôt qu’à la coopération. La politique polarisée transforme de nombreuses questions politiques en questions idéologiques, ce qui rend les approches pragmatiques beaucoup plus difficiles à trouver.
Les régulateurs du monde sont appelés à adopter des positions politiques sur des types de questions entièrement nouveaux et à utiliser des instruments existants tels que les lois antitrust et de protection des consommateurs qui ont été conçues pour l’ère industrielle.
De nombreuses technologies comme les implants cérébraux, l’édition de gènes, les outils d’intelligence artificielle qui peuvent générer des deepfakes ou des engins spatiaux qui minent les corps célestes affectent toute l’humanité, mais étant donné les circonstances particulières de l’histoire, sont influencées par les entrepreneurs américains et régies par la loi américaine. Il est possible d’affirmer qu’il en a toujours été ainsi. Mais la différence est que le monde n’a pas toujours été ainsi. L’interconnexion fait la différence. Les applications que je peux utiliser et les fonctionnalités de ces applications sont contrôlées par la direction de quelques grandes entreprises aux États-Unis et elles sont, à leur tour, liées par la loi américaine. Je n’ai pas mon mot à dire là-dessus, même théoriquement, si ce n’est de choisir de ne pas utiliser la technologie. Ce n’est pas facile, car vous avez besoin de ces applications pour exécuter les fonctions les plus élémentaires de la vie quotidienne.
Bien que les régulateurs et les législateurs nationaux soient intervenus, ils réagissent principalement aux évolutions. Cela signifie que leur réponse sera réflexive et adaptée à leurs cultures politiques et réglementaires. Ainsi, les gouvernements exigeront un contrôle accru par le biais d’exigences de localisation ou de surveillance, ou, à l’autre extrême, banniront simplement les technologies qu’ils ne peuvent pas contrôler de manière adéquate.
De ChatGPT à la cyberguerre, et des implants cérébraux à l’exploration spatiale, nous avons besoin d’une approche collective de la gouvernance technologique. Quelques individus puissants, de grandes entreprises ou de grands pays ne devraient pas être autorisés à avoir une influence incontrôlée sur l’avenir de l’humanité.
À l’aube de l’ère industrielle, des dirigeants clairvoyants ont rédigé des constitutions pour empêcher la concentration du pouvoir entre les mains d’une seule personne et pour forcer la responsabilité démocratique dans la manière dont les affaires d’une communauté sont gérées. Nous devons penser à un ordre similaire pour l’ère de l’information. Espérons que, sans l’aide d’implants cérébraux.
Nitin Pai est co-fondateur et directeur de The Takshashila Institution, un centre indépendant de recherche et d’éducation en politique publique
Attrapez toutes les actualités commerciales, les actualités du marché, les dernières actualités et les dernières mises à jour sur Live Mint. Téléchargez l’application Mint News pour obtenir les mises à jour quotidiennes du marché.
Plus Moins