Les deepfakes presque parfaits de Tom Cruise soulèvent des inquiétudes concernant la technologie et la sécurité

Avez-vous vu cette vidéo virale de Tom Cruise faisant des tours de magie? Eh bien, ce n’est pas vraiment l’acteur né à Syracuse, mais c’est certainement un truc.

Le Times of London rapporte que trois vidéos utilisant la technologie de l’intelligence artificielle pour donner l’impression qu’un utilisateur de TikTok ressemble à Cruise sont devenues virales sur les réseaux sociaux. Le compte, @deeptomcruise, compte déjà 11 millions de vues combinées, 1 million de likes et 342000 abonnés.

«C’est la vraie chose», dit le supposé Cruise.

Mais aucun d’entre eux ne présente l’étoile «Mission: Impossible».

Chris Ume, un spécialiste des effets visuels vidéo de Belgique, a déclaré au magazine Fortune qu’il avait créé les vidéos, mais on ne sait pas qui représente la célébrité. L’imitateur de Cruise, Evan Ferrante, a déclaré à la publication Mic qu’il pensait qu’il s’agissait d’un autre acteur nommé Miles Fisher, qui ressemble à Cruise et a fait des impressions de lui dans le passé.

«J’utilise également deepfakes, je travaille avec les meilleurs du secteur qui le font, de Collider TV et Corridor Digital aux seules personnes qui travaillent avec des logiciels et qui sont les techniciens de référence. Mais celui-ci est très apprécié, car encore une fois, la technologie ne cesse de s’améliorer. Les gens sont attirés par l’illusion et les gens sont attirés par les sosies pour une raison quelconque, parce que les gens aiment être dupés ou remettre en question les choses », a déclaré Ferrante à Mic.

Les «Deepfakes» font référence aux médias générés et manipulés par l’IA, le plus souvent en échangeant la tête ou le visage d’une personne sur le corps d’une autre personne. Dans le cas de la vidéo, les images peuvent être capturées à partir de plusieurs sources – telles que des photos ou des clips des films à succès de Cruise – pour créer le faux animé à l’aide de l’apprentissage automatique pour montrer à quoi ressemble le visage sous plusieurs angles dans différents éclairages et mouvements.

Selon le MIT Technology Review, la plupart des deepfakes depuis fin 2018 ont été utilisés pour du porno non consensuel, comme mettre la tête d’une ex-petite amie sur le corps d’une star de cinéma pour adultes. La technologie a également été utilisée pour mettre Robert Downey Jr. et Tom Holland dans «Retour vers le futur» et la société d’ascendance MyHeritage l’utilise pour animer de vieilles photos de parents grâce à un programme appelé Deep Nostalgia.

Une autre vidéo deepfake récente a inséré de manière convaincante l’actrice de «Stranger Things» Millie Bobby Brown dans «Star Wars» en tant que personnage de Carrie Fisher, la princesse Leia.

Hany Farid, professeur à l’Université de Californie à Berkeley et spécialisé dans l’analyse d’images numériques, a déclaré au magazine Fortune que les deepfakes de Tom Cruise sont «incroyablement bien faits». Dans la vidéo où Cruise semble effectuer un tour de magie avec une pièce de monnaie, la seule preuve qu’ils sont faux est lorsque la couleur et la forme de ses yeux – ainsi que la lumière reflétée dans l’iris de Cruise – changent brièvement à la fin du clip.

TikTok a déclaré au Times qu’il n’autorisait pas les contrefaçons numériques «qui induisent les utilisateurs en erreur en déformant la vérité des événements et en causant du tort au sujet de la vidéo, à d’autres personnes ou à la société». Cependant, cela permet à «deeptomcruise» de rester actif car le nom d’utilisateur indique clairement qu’ils n’essayaient pas de tromper les téléspectateurs.

Pourtant, la croissance rapide de la technologie a soulevé des questions sur la violation du droit d’auteur, la sécurité Internet, la vengeance pornographique et la propagande politique. Qu’est-ce qui empêche quelqu’un de créer une vidéo qui ressemble à un candidat disant ou faisant quelque chose qu’il n’a pas vraiment dit ou fait?

Ajder a déclaré que les vidéos de Cruise étaient divertissantes, mais « il y a aussi une énorme quantité de cas d’utilisation vraiment négatifs et malveillants. »

Rachel Tobac, PDG de la société de sécurité en ligne SocialProof, a déclaré au New York Post que les vidéos de Cruise sont si bien faites que ses implications sont effrayantes.

«Deepfakes aura un impact sur la confiance du public, fournira une couverture et un déni plausible pour les criminels / agresseurs capturés par vidéo ou audio, et sera (et est) utilisé pour manipuler, humilier et blesser les gens», a déclaré Tobac, ajoutant qu’ils avaient «la sécurité du monde réel , un impact politique, etc. pour tout le monde. »

Cruise, qui est né à Syracuse, NY, en 1962, n’a pas commenté les vidéos.