Les pirates ciblent les utilisateurs de médias sociaux avec de fausses vidéos de haute technologie

InvestigateTV – La technologie utilisée pour créer des vidéos réalistes d’un acteur de renommée internationale, d’un ancien président américain et même d’un leader mondial au milieu d’un conflit violent est utilisée sur des Américains ordinaires.

La raison : Utiliser votre visage amical peut facilement piéger des personnes que vous connaissez dans une arnaque.

Ces contrefaçons étranges sont créées avec une informatique de pointe conçue pour imiter le cerveau humain.

Dans la communauté de l’intelligence artificielle (IA), les vidéos sont appelées « deepfakes ». Le terme est utilisé pour l’audio, les images ou les vidéos qui ont été manipulés pour apparaître réels.

Les deepfakes utilisent une forme d’IA appelée « apprentissage en profondeur », une technologie qui tente de copier la façon dont les humains pensent et apprennent. C’est aussi là que le « profond » dans deepfake est dérivé.

Récemment, l’utilisateur de Tiktok Chris Ume est devenu viral avec son deepfake de l’acteur Tom Cruise. En 2018, le réalisateur Jordan Peele et Buzzfeed ont fait circuler un deepfake de l’ancien président Barack Obama pour avertir les gens des progrès de la technologie et de la manière dont ils pourraient propager de fausses informations par une mauvaise utilisation.

En ce qui concerne le suivi de ces vidéos potentiellement problématiques, l’une des rares organisations disposant de données sur les deepfakes est Sensity, une société basée à Amsterdam qui utilise des technologies d’apprentissage en profondeur et informatiques pour détecter les deepfakes.

Selon Sensity, les deepfakes sont apparus fin 2017 et les chiffres en ligne ont rapidement augmenté. En 2018, la société a suivi plus de 7 000 vidéos deepfake en ligne. En décembre 2020, leur rapport montre que le nombre est monté en flèche à plus de 85 000 deepfakes en ligne.

Les données de Sensity ne suivent que les incidents impliquant des personnalités publiques. Il n’inclut pas les incidents impliquant des particuliers. Cependant, les pirates simulent plus que des célébrités et des politiciens.

Piraté et deepfake

Kyle Hawkins le sait trop bien. Il est entré sans le vouloir dans le monde des deepfakes lorsque ses comptes de réseaux sociaux ont été piratés en février 2022.

Hawkins est un agent d’assurance spécialisé dans l’assurance-maladie et la planification de la retraite à Richmond, en Virginie.

Un jour, il a ouvert Instagram et a dit avoir vu un message d’un vieil ami. Hawkins pensait que l’ami cherchait ses services et cherchait de l’aide.

« J’ai reçu un message via Instagram de quelqu’un avec qui j’étais ami là-bas et je supposais que la même chose leur était arrivée, mais je ne le savais pas », a déclaré Hawkins.

Il s’avère que cet ami a été piraté. Lorsque Hawkins a cliqué sur un lien dans le message, il a déclaré qu’il avait rapidement perdu le contrôle de son compte.

« Je ne pensais rien à ce sujet », a déclaré Hawkins. « Et puis j’ai pu en quelque sorte obtenir Instagram ce matin-là, puis au moment où j’ai vérifié, c’était l’heure du déjeuner, tout était parti. »

Hawkins a déclaré que son Instagram et son compte Facebook lié avaient été piratés, ouvrant ses abonnés à des attaques similaires.

C’est là qu’il a dit que le deepfake avait commencé. Hawkins a déclaré qu’une vidéo deepfake de 16 secondes avait été envoyée à ses amis et abonnés les encourageant à investir dans l’exploitation minière de Bitcoin. Il a confirmé que la vidéo ressemble et sonne comme lui.

« Ça a l’air réel, mais ils l’envoient aux gens. Ils en ont fait d’autres, je pense », a déclaré Hawkins.

Il a déclaré que la vidéo avait été publiée sur des histoires Instagram tous les jours depuis le piratage initial. Dans ce document, il a déclaré que le « faux Hawkins » partageait combien d’argent il avait gagné grâce au Bitcoin. Le fait est que Hawkins a déclaré qu’il n’avait jamais investi dans la crypto-monnaie.

« Je n’ai pas de Bitcoin, donc je n’ai pas fait ça », a déclaré Hawkins.

Hawkins a déclaré qu’il avait contacté les deux plateformes de médias sociaux dans l’espoir de fermer son compte, mais ses comptes Instagram et Facebook sont toujours actifs.

Expansion et réglementation de Deepfake

Ben Coleman, PDG de Reality Defender, travaille avec des organisations et des agences gouvernementales pour analyser l’audio, les images et la vidéo afin de protéger la vie privée des individus, ainsi que pour lutter contre la fraude, le contenu inapproprié et rechercher une solution à la montée des deepfakes.

« L’échange de visages sont des contrefaçons profondes », a déclaré Coleman. « Certains d’entre eux sont drôles, et certains d’entre eux sont utilisés pour la fraude. »

Il a déclaré que les vidéos pouvaient également être potentiellement dangereuses.

Le 16 mars, lors de l’action militaire russe en Ukraine, un deepfake a fait surface sur les réseaux sociaux du président ukrainien Volodymyr Zelensky. La vidéo montrait Zelensky prononçant un discours. Cependant, il était pixélisé et avait une voix plus profonde que d’habitude. Une fois que la vidéo a été qualifiée de deepfake, Meta – la société mère de Facebook – a rapidement supprimé la vidéo de toutes ses plateformes et a publié le déclaration suivanteaffirmant que la société « a rapidement examiné et supprimé cette vidéo pour avoir enfreint notre politique contre les médias manipulés trompeurs, et a informé nos pairs sur d’autres plateformes ».

Ce n’était pas la première fois que Meta abordait les deepfakes. Avant l’élection présidentielle de 2020, la société a interdit les deepfakes et autres vidéos manipulées citant des tactiques dangereuses qui pourraient induire le public en erreur.

Dans un communiqué de presse Facebook de 2020, la société a déclaré qu’elle travaillait sur la question et « renforçait sa politique à l’égard des vidéos manipulées trompeuses ». La politique sur les médias manipulés de Facebook indique que les vidéos non parodiques ou satiriques éditées pour induire les gens en erreur, ou les vidéos qui utilisent l’IA pour paraître authentiques seront supprimées.

Il n’y a pas de chiffres publics sur le nombre de vidéos deepfake supprimées par Facebook, mais dans un communiqué, la société a déclaré qu’elle « travaillait avec d’autres dans ce domaine pour trouver des solutions ayant un impact réel ».

En septembre 2019, la société a créé un « Deep Fake Detection Challenge » qui a demandé à des experts du domaine de l’aider à créer des outils open source pour détecter les deepfakes.

CLIQUEZ ICI POUR REGARDER LA VIDÉO DU DÉFI

Meta s’est également associé à des médias comme Reuters pour aider à identifier les deepfakes et fournir une formation en ligne gratuite sur la façon d’identifier les visuels manipulés.

Ben Coleman a déclaré que même si les entreprises et les organisations de médias sociaux tentent de lutter contre le problème, des obstacles importants subsistent.

« Souvent, ces entreprises ont de gros défis parce qu’elles ont des modérateurs humains et que les modérateurs humains ne peuvent tout simplement plus faire la différence entre le vrai et le faux », a déclaré Coleman.

Le sénateur Rob Portman (R-OH) a présenté un projet de loi au Congrès l’année dernière pour obliger le Département de la sécurité intérieure et le Bureau de la politique scientifique et technologique de la Maison Blanche à créer un groupe de travail temporaire national sur la provenance des faux faux. Le projet de loi a été renvoyé à la commission de la sécurité intérieure et des affaires gouvernementales et a été « ordonné de faire l’objet d’un rapport favorable sans amendement ».

Coleman a déclaré qu’il n’y avait pas de politiques actuelles aux États-Unis qui obligent les entreprises à signaler les médias synthétiques et faux de la même manière qu’elles signalent actuellement la nudité et la violence des mineurs.

« Pour la plupart, [companies are] demander aux utilisateurs de signaler des choses », a déclaré Coleman. « Ils s’attendent à ce que les utilisateurs soient des experts, et s’ils voient quelque chose, ils doivent dire quelque chose, puis cela est envoyé à une équipe de modérateurs humains. »

Solutions deepfake publiques et privées

Selon Coleman, Reality Defender travaille actuellement à la création d’une extension de navigateur et d’un site Web pour aider les consommateurs à repérer les deepfakes à partir de leurs ordinateurs personnels.

Mais Reality Defender n’est pas seul dans la lutte contre les deepfakes.

À l’Université de Virginie, une équipe d’étudiants de troisième année développe un site Web pour le public, où un jour les consommateurs pourraient télécharger des vidéos et des photos douteuses pour vérifier si elles sont fausses.

Deux de ces étudiants, Ahmed Hussain et Sam Buxbaum, étudient l’informatique et la physique. La paire a remporté le premier prix du concours Innovative Discovery Science Platform (iDISPLA). Leur proposition, qui ciblait la lutte contre les deepfakes à l’aide de l’IA, est née après que le duo a vu une augmentation des vidéos deepfake faisant surface sur Internet.

« Il est tout à fait possible que les deepfakes au cours des cinq prochaines années soient presque impossibles à distinguer des vraies personnes dans certains cas », a déclaré Hussain. « Ils arrivent au point où c’est assez difficile de le faire. »

Hussain a déclaré qu’il pensait que la solution n’était pas de combattre le feu par le feu, mais d’utiliser la blockchain, un système qui enregistre les informations et rend difficile le piratage ou la triche du système.

Buxbaum a déclaré que son site Web permettrait aux gens de télécharger une vidéo et que l’algorithme indiquerait si la vidéo est fausse.

« Certaines des choses qui sont différentes entre un deepfake et une vraie vidéo ne sont détectables que sur un ordinateur, mais elles vous font toujours sentir bizarre quand vous la regardez », a déclaré Buxbaum.

Protéger votre compte et détecter les deepfakes

Alors que les solutions en ligne et les législateurs rattrapent la technologie, Coleman a suggéré plusieurs étapes pour empêcher un pirate d’utiliser vos photos et vidéos pour créer des deepfakes :

• Sécurisez tous vos comptes sociaux et ayez un mot de passe différent pour chacun
• Activer l’authentification à deux facteurs
• Si une vidéo semble désactivée, signalez-la à la plate-forme que vous utilisez, décrochez votre téléphone et appelez la personne

Lorsqu’il s’agit de repérer les deepfakes, les chercheurs du Massachusetts Institute of Technology suggèrent de regarder les traits du visage de la vidéo :

• Surveillez la façon dont les yeux et les lèvres bougent
• Regardez pour voir si la peau est trop lisse ou trop ridée
• Rechercher des ombres anormales dans la vidéo ou la photo
• Ne cliquez sur aucun lien associé à une vidéo qui vous met mal à l’aise

Kyle Hawkins a déclaré que son expérience l’avait rendu méfiant vis-à-vis des médias sociaux et de ce nouveau style de cyber-escroquerie.

« Soyez simplement très prudent de nos jours à propos de tout ce que vous mettez, publiez, répondez ou cliquez dessus. »

Copyright 2022 Gray Media Group, Inc. Tous droits réservés.