Les «travailleurs d’Amazon» de Deepfake sèment la confusion sur Twitter
En fait, il y a déjà eu plusieurs cas très médiatisés dans lesquels de fausses photos ont été utilisées dans des campagnes de désinformation dommageables. En décembre 2019, Facebook a identifié et supprimé un réseau de plus de 900 pages, groupes et comptes, dont certains avec des photos de profil profondément enfouies, associés au média d’extrême droite Epoch Times, connu pour ses tactiques de désinformation. En octobre 2020, un faux document de «renseignement» distribué dans les cercles du président Trump, qui est devenu la base de nombreuses théories du complot entourant Hunter Biden, a également été rédigé par un faux analyste de la sécurité avec une image de profil profondément falsifiée.
Toler dit que les visages deepfake sont devenus une tendance dans son travail en tant qu’enquêteur open-source sur les activités en ligne suspectes, en particulier depuis le lancement de ThisPersonDoesNotExist.com, un site Web qui sert un nouveau visage généré par l’IA à chaque actualisation. «Il y a toujours une liste de contrôle mentale que vous parcourez chaque fois que vous trouvez quelque chose», dit-il. «La première question est: » Cette personne est-elle réelle ou non? » C’était une question que nous n’avions pas vraiment posée il y a cinq ans.
Quelle est l’ampleur de cette menace? Pour le moment, dit Toler, l’utilisation de visages deepfake n’a pas eu un grand impact sur son travail. Il est encore relativement facile pour lui d’identifier quand une image de profil est un deepfake, comme c’est le cas lorsque la photo est une image de stock. Le scénario le plus difficile est celui où l’image d’une personne réelle est extraite d’un compte de réseau social privé qui n’est pas indexé sur les moteurs de recherche d’images.
Une prise de conscience croissante des deepfakes a également incité les gens à scruter plus attentivement les médias qu’ils voient, dit Toler, comme en témoigne la rapidité avec laquelle les gens ont compris la falsification des comptes Amazon.
Mais Sam Gregory, le directeur du programme de Witness à but non lucratif pour les droits humains, dit que cela ne devrait pas nous endormir dans un faux sentiment de sécurité. Les Deepfakes s’améliorent constamment, dit-il: «Je pense que les gens ont un peu trop confiance qu’il sera toujours possible de les détecter.»
Une hyper-prise de conscience des deepfakes pourrait également amener les gens à cesser de croire aux vrais médias, ce qui pourrait avoir des conséquences tout aussi désastreuses, telles que saper la documentation des violations des droits de l’homme.
Que devrions nous faire? Gregory encourage les utilisateurs de médias sociaux à éviter de se demander si une image est un deepfake ou non. Souvent, ce n’est qu’une «infime partie du puzzle», dit-il. «Le cadeau n’est pas que vous avez en quelque sorte interrogé l’image. C’est que vous regardez le compte et il a été créé il y a une semaine, ou c’est un journaliste qui prétend être journaliste, mais qui n’a jamais rien écrit d’autre que vous pourriez trouver sur une recherche Google. «
Ces tactiques d’enquête sont beaucoup plus robustes aux avancées de la technologie deepfake. Le conseil sonne également vrai pour l’affaire Amazon. C’est en vérifiant les e-mails et les détails des tweets des comptes que Toler a finalement déterminé qu’ils étaient faux, et non en examinant les images de profil.