Les ambitions de Jeff Bezos de ramener les morts sont l’orgueil de la Silicon Valley à son pire

Non contente de courir après l’élixir de jeunesse éternelle, la Silicon Valley tente désormais de ressusciter les morts.

Cette semaine, le dirigeant d’Amazon, Rohit Prasad, a présenté une démo de l’assistant vocal Alexa de la société imitant la voix d’une grand-mère décédée.

Après qu’un jeune garçon ait demandé à son haut-parleur : « Alexa, est-ce que grand-mère peut finir de me lire le Magicien d’Oz ? », l’appareil a produit une synthèse réaliste, lisant le livre d’un ton âgé rassurant.

Les parents surmenés pourraient voir la fonctionnalité comme un hack d’étude de génie; Amazon l’a présenté comme un moyen de se souvenir des personnes perdues.

« Bien que l’IA ne puisse pas éliminer cette douleur de la perte, elle peut certainement faire durer les souvenirs », a déclaré Prasad.

Comme la plupart des inventions de l’industrie technologique, la fonctionnalité a été annoncée avec un optimisme léger. Prasad s’est vanté que la voix de la grand-mère pouvait être reproduite avec moins d’une minute d’audio, une réalisation qui aurait été impossible il y a quelques années, mais qu’un logiciel avancé de reconnaissance de formes accomplit désormais facilement.

Il n’est pas étonnant que Jeff Bezos – qui a financé une horloge souterraine de 10 000 ans comme témoignage d’une réflexion à long terme – veuille prolonger la durée de vie au-delà de leurs contraintes physiques.

L’annonce d’Amazon n’était rien de plus qu’une courte démo. La société la décrit comme une recherche exploratoire et on ne sait pas quand ou si la technologie sera rendue publique. Amazon n’a pas non plus précisé quelles restrictions il prévoyait d’imposer au système.

Les proches devront-ils donner leur consentement pour que leur voix soit reproduite avant leur décès, par exemple ? Amazon exigera-t-il la preuve que quelqu’un est décédé, ou serons-nous capables de créer des imitations de notre propre voix, en sous-traitant la lecture au coucher à des jumeaux numériques ? Amazon tentera-t-il d’imiter des personnalités ainsi que simplement des voix, nous permettant d’avoir des conversations avec des parents décédés ?

Nous pourrions appeler cela une bonne idée pour Black Mirror, si cela n’avait pas déjà été l’intrigue d’un épisode, il y a des années.

Quelles que soient les réponses à ces questions, il est peu probable que cela change la réaction écrasante à l’annonce d’Amazon, qui était qu’elle était carrément effrayante et franchissait une ligne à laquelle la société n’était pas préparée.

Mais essayons de donner à l’idée une audience équitable. Nous utilisons déjà des technologies antérieures – albums photo, vidéos personnelles et lettres écrites – pour nous souvenir d’êtres chers perdus qui n’auraient autrement existé que dans les souvenirs. Avant qu’elles ne deviennent courantes, aurions-nous craint qu’elles ne compliquent la progression ?

Les préoccupations morales antérieures concernant les technologies qui imitent les humains ont dépassé leur impact réel. En 2018, Google a dévoilé une mise à jour de son assistant IA qui serait capable de passer des appels téléphoniques au nom des gens pour prendre des rendez-vous dans des restaurants et des coiffeurs. Des prédictions ont rapidement émergé d’une société à deux vitesses dans laquelle les consommateurs riches externaliseraient leurs interactions gênantes avec le prolétariat vers des machines. Rien de tel ne s’est produit.

Les « Deepfakes » – des vidéos générées par l’IA qui semblent montrer des personnalités publiques disant et faisant des choses qu’elles n’ont jamais faites – devaient faire des ravages dans la société et menacer la démocratie en brouillant les lignes de ce qui est réel. Au moins pour l’instant, la panique semble grandement exagérée.

Amazon pourrait également raisonnablement affirmer que le génie est sorti de la bouteille. Les outils vocaux synthétiques disponibles en ligne ne manquent pas et ils ne tarderont pas à faire ce dont les chercheurs d’Alexa sont désormais capables.

Ceux qui ont perdu des êtres chers ont déjà utilisé des logiciels largement disponibles pour créer des imitations numériques du défunt, auxquelles il est possible de parler via des chatbots. L’accueil est mitigé : certains ont trouvé l’expérience thérapeutique, un moyen d’accepter le chagrin créé par une mort souvent inattendue. D’autres craignent que la communication avec une âme décédée ne crée une dépendance et ne conduise quelqu’un à se détacher de la vie réelle.

Il vaut mieux laisser la science à ce sujet aux psychiatres. Mais il est raisonnable de se demander si nous voulons qu’Amazon – une entreprise dont l’objectif premier est de nous vendre plus de papier toilette et de chargeurs de téléphone – soit à la pointe du développement de cette technologie.

Voulons-nous que la nécromancie soit un avantage réservé aux membres Prime ?

Les antécédents d’Amazon en matière d’éthique en ce qui concerne Alexa sont discutables. trop souvent, les progrès rapides ont pris le pas sur les progrès réfléchis. En 2019, il est apparu que des armées de travailleurs humains écoutaient les conversations avec l’assistant intelligent, forçant l’entreprise à une série de changements de confidentialité. L’assistant a donné des conseils offensants ou dangereux aux gens en extrayant par erreur des extraits d’informations non vérifiées du Web dans le but d’améliorer sa base de connaissances (dans un cas corrigé depuis, il a dit à une fille de 10 ans de toucher une prise sous tension avec un centime).

Invoquer les morts semble être un cas similaire consistant à voir si quelque chose peut être fait avant de demander si cela doit être fait.

À tout le moins, Amazon aurait pu promettre de répondre à certaines des préoccupations inévitables concernant la résurrection de grand-mère avant tout lancement public. Dans l’état actuel des choses, cela ressemble simplement à un autre cas d’orgueil de la Silicon Valley.