Ne faites confiance à personne : Inside the World of Deepfakes par Michael Grothaus critique – la super arme de la désinformation | Livres de société
Dans la nuit du jeudi 3 septembre 1998, un professeur d’université d’âge moyen ayant des antécédents de crises cardiaques s’est évanoui au volant de sa voiture sur une autoroute américaine très fréquentée. La voiture a dérapé à travers les voies et dans la ruée de la circulation venant en sens inverse. La collision était si puissante qu’elle a poussé le moteur de la voiture du professeur dans les sièges avant. Miraculeusement, il a survécu et personne d’autre n’a été grièvement blessé. Il s’est remis d’une fracture de la cheville et du poignet et a quitté l’hôpital. Un mois plus tard, il était de retour là-bas avec une douleur à la jambe – un caillot qui aurait pu ou non avoir été déclenché par l’accident. Ensuite, son corps a gonflé jusqu’à deux fois sa taille avec du liquide, il ressemblait donc à un ballon que vous pourriez piquer avec une aiguille et éclater. Sa femme et ses jeunes enfants ont vu sa survie miraculeuse se transformer en une aggravation soudaine de sa maladie cardiaque sous-jacente. En avril 1999, il était mort.
Un peu plus de deux décennies plus tard, son fils, Michael Grothaus, était assis devant son ordinateur et regardait une vidéo de son père, en bonne santé et portant un T-shirt jaune, jouant avec un smartphone inventé de nombreuses années après sa mort. Il s’amusait à enregistrer le parc ensoleillé autour de lui. Puis il se tourna vers l’écran et sourit avec bienveillance à son fils derrière ses sourcils broussailleux.
Grothaus avait racheté son père à la vie en tant que « deepfake ». Cela ne coûte que quelques centaines de dollars. Il existe des communautés entières de deepfakers anonymes que vous pouvez facilement atteindre dans les meilleures couches d’Internet. Habituellement, ils se spécialisent dans la création de porno sur commande : disons que vous voulez une vidéo de vous en train de faire l’amour avec Scarlett Johansson ou avec la fille d’à côté. Tout ce que vous avez à faire est de fournir un extrait de vidéo et ils font le reste. Pour créer la vidéo de son père dans le parc, Grothaus a envoyé plus de 60 secondes de séquences VHS du milieu des années 1990. « Brad » l’a ensuite décomposé en 1 800 images du visage de son père et a fait passer ces images à travers un programme appelé DeepFaceLab, qui les a greffées sur une vidéo d’un autre homme.
La résurrection numérique de son père a suscité des sentiments contradictoires chez Grothaus. Il a regardé la vidéo à plusieurs reprises – savourant les retrouvailles. Puis il l’a supprimé – horrifié par la rupture qu’il avait faite dans la réalité, et les conséquences que cela implique pour notre sens de la vérité et de la confiance.
Cette réaction partagée traverse le livre de Grothaus sur les deepfakes. D’une part, ils offrent la perspective de surmonter la mort, d’envisager l’utopie, de satisfaire le désir sexuel. De l’autre, ils apportent la peur du chaos total. Même une courte vidéo factice de, disons, la démission du PDG d’une grande entreprise, pourrait faire paniquer les marchés juste assez longtemps pour permettre aux personnes qui l’ont créée de tuer. Les deepfakes de candidats disant quelque chose de fâcheux dans les derniers instants d’une élection serrée pourraient changer le destin de la géopolitique.
Mais alors que de tels scénarios sont vertigineux dans leur potentiel destructeur, ils sont, pour la plupart, encore théoriques. La véritable escroquerie financière décrite par Grothaus implique des fraudeurs qui ont utilisé l’enregistrement vocal d’un PDG pour appeler son comptable et lui faire virer 243,00 $. Embarrassant – mais aussi possible uniquement grâce à un interlocuteur assez crédule. L’étude de cas politique qu’il décrit est un montage amateur d’une vidéo qui donne l’impression que la star hollywoodienne Dwayne Johnson humilie Hillary Clinton à l’approche des élections de 2016. La vidéo est devenue virale au Magaland, mais pas parce que son authenticité était particulièrement convaincante. Cela correspondait simplement aux préjugés existants des gens.
C’est le propre de la « désinformation » : elle n’est pas vraiment destinée à faire changer les esprits. Il s’agit de leur donner ce qu’ils veulent consommer de toute façon. La qualité de la tromperie n’est pas nécessairement le facteur crucial. Les deepfakes vont-ils changer cela ? Leur simple existence détruira-t-elle tout vestige de confiance dans une réalité partagée ? Potentiellement. Mais une chose que nous savons, c’est que le discours qui s’est développé autour de cette question, plutôt que d’être quelque chose de radicalement nouveau, fait partie d’une dynamique beaucoup plus ancienne.
Dans une vie antérieure, je faisais des documentaires pour la télévision. Je me suis toujours demandé pourquoi quelqu’un acceptait d’y participer. La plupart étaient des gens ordinaires qui ne s’intéressaient pas à la célébrité. Lentement, je me suis rendu compte qu’il y avait quelque chose dans le processus de tournage qui les séduisait. La caméra semblait promettre que leurs expériences avaient un sens et offrait finalement une sorte d’immortalité. Cela dit, chaque fois que nos contributeurs voyaient les films dans lesquels ils figuraient, ils les détestaient. La façon dont nous les avons édités dans nos scénarios les a rendus moins puissants, plus vulnérables. Au lieu de l’immortalité, nous avons apporté le contraire : une perte totale de maîtrise de soi.
Notre rapport aux représentations visuelles de nous-mêmes s’inscrit toujours dans cet axe du narcissisme et de l’effroi : à la fois promettant une défaite de la mort, mais en suscitant ce désir seulement pour le décevoir, en renforçant de façon écrasante son inévitabilité. Notre fascination pour les deepfakes me semble être la dernière itération de ces montagnes russes émotionnelles, et c’est celle que Grothaus capture très bien.