Révélée: la faille Facebook qui permet aux dirigeants du monde de tromper et de harceler leurs citoyens | Facebook

Facebook a permis à plusieurs reprises aux dirigeants et aux politiciens du monde d’utiliser sa plateforme pour tromper le public ou harceler les opposants en dépit d’être alerté sur des preuves d’actes répréhensibles.

The Guardian a vu une documentation interne complète montrant comment Facebook a traité plus de 30 cas dans 25 pays de comportement politiquement manipulateur détecté de manière proactive par le personnel de l’entreprise.

L’enquête montre comment Facebook a permis des abus majeurs de sa plate-forme dans les pays pauvres, petits et non occidentaux afin de donner la priorité à la lutte contre les abus qui attirent l’attention des médias ou affectent les États-Unis et d’autres pays riches. La société a agi rapidement pour lutter contre la manipulation politique affectant des pays tels que les États-Unis, Taïwan, la Corée du Sud et la Pologne, tout en progressant lentement ou pas du tout sur des cas en Afghanistan, en Irak, en Mongolie, au Mexique et dans une grande partie de l’Amérique latine.

«Il y a beaucoup de torts causés sur Facebook auxquels on ne répond pas parce que cela n’est pas considéré comme un risque de relations publiques suffisant pour Facebook», a déclaré Sophie Zhang, ancienne data scientist chez Facebook qui travaillait au sein de l’organisation «intégrité» de l’entreprise. pour lutter contre les comportements inauthentiques. «Le coût n’est pas supporté par Facebook. Il est porté par le monde dans son ensemble. »

Facebook s’est engagé à lutter contre la manipulation politique soutenue par l’État de sa plate-forme après le fiasco historique des élections américaines de 2016, lorsque des agents russes ont utilisé des comptes Facebook non authentiques pour tromper et diviser les électeurs américains.

Mais la société a échoué à plusieurs reprises à prendre des mesures en temps opportun lorsqu’elle a présenté des preuves de manipulation et d’abus généralisés de ses outils par des dirigeants politiques du monde entier.

Facebook a licencié Zhang pour mauvaise performance en septembre 2020. Le dernier jour, elle a publié une note d’adieu de 7800 mots décrivant comment elle avait «trouvé de multiples tentatives flagrantes de la part de gouvernements étrangers pour abuser de notre plateforme à grande échelle pour tromper leurs propres citoyens» et fustiger l’entreprise pour son incapacité à remédier aux abus. «Je sais que j’ai du sang sur les mains maintenant», a-t-elle écrit. La nouvelle de la note a été rapportée pour la première fois en septembre par BuzzFeed News.

Zhang se présente maintenant dans l’espoir que ses révélations forceront Facebook à prendre en compte son impact sur le reste du monde.

« Facebook n’a pas une forte motivation pour faire face à cela, sauf la peur que quelqu’un puisse le divulguer et faire un gros tapage, c’est ce que je fais », a-t-elle déclaré au Guardian. «Le point entier de l’activité inauthentique n’est pas à trouver. Vous ne pouvez pas réparer quelque chose si vous ne savez pas qu’il existe. »

Liz Bourgeois, porte-parole de Facebook, a déclaré: «Nous sommes fondamentalement en désaccord avec la caractérisation par Mme Zhang de nos priorités et de nos efforts pour éradiquer les abus sur notre plateforme.

«Nous luttons agressivement contre les abus dans le monde entier et avons des équipes spécialisées concentrées sur ce travail. En conséquence, nous avons supprimé plus de 100 réseaux de comportements non authentiques coordonnés. Environ la moitié d’entre eux étaient des réseaux nationaux opérant dans des pays du monde entier, y compris ceux d’Amérique latine, du Moyen-Orient et d’Afrique du Nord, ainsi que dans la région Asie-Pacifique. Lutter contre les comportements non authentiques coordonnés est notre priorité. Nous nous attaquons également aux problèmes de spam et de faux engagement. Nous enquêtons sur chaque problème avant de prendre des mesures ou de faire des réclamations publiques à leur sujet. « 

Facebook n’a pas contesté les affirmations factuelles de Zhang sur son passage dans l’entreprise.

Avec 2,8 milliards d’utilisateurs, Facebook joue un rôle dominant dans le discours politique de presque tous les pays du monde. Mais les algorithmes et les fonctionnalités de la plate-forme peuvent être manipulés pour fausser le débat politique.

Une façon d’y parvenir est de créer de faux «engagements» – j’aime, commentaires, partages et réactions – en utilisant des comptes Facebook non authentiques ou compromis. En plus de façonner la perception publique de la popularité d’un dirigeant politique, un faux engagement peut affecter l’algorithme de fil d’actualité de Facebook. Jouer avec l’algorithme avec succès peut faire la différence entre atteindre un public de millions de personnes – ou crier dans le vent.

Zhang a été embauché par Facebook en janvier 2018 pour travailler dans l’équipe dédiée à l’élimination des faux engagements. Elle a constaté que la grande majorité des faux engagements apparaissaient sur des publications d’individus, d’entreprises ou de marques, mais qu’ils étaient également utilisés sur ce que Facebook appelait des cibles «civiques» – c’est-à-dire politiques.

L’exemple le plus flagrant était Juan Orlando Hernández, le président du Honduras, qui en août 2018 recevait 90% de tous les faux engagements civiques connus dans le petit pays d’Amérique centrale. En août 2018, Zhang a découvert des preuves que le personnel de Hernández était directement impliqué dans la campagne visant à améliorer le contenu de sa page avec des centaines de milliers de faux likes.

L’un des administrateurs de la page Facebook officielle de Hernández administrait également des centaines d’autres pages qui avaient été configurées pour ressembler à des profils d’utilisateurs. Le membre du personnel a utilisé les pages factices pour livrer de faux likes aux messages de Hernández, l’équivalent numérique du bus dans une fausse foule pour un discours.

Cette méthode d’acquisition de faux engagements, que Zhang appelle «l’abus de page», a été rendue possible par une faille dans les politiques de Facebook. La société exige que les comptes d’utilisateurs soient authentiques et empêche les utilisateurs d’en avoir plus d’un, mais elle n’a pas de règles comparables pour les pages, qui peuvent effectuer plusieurs des mêmes engagements que les comptes peuvent, y compris aimer, partager et commenter.

L’échappatoire est restée ouverte en raison d’un manque d’application, et il semble qu’elle soit actuellement utilisée par le parti au pouvoir d’Azerbaïdjan pour laisser des millions de commentaires harcelants sur les pages Facebook des organes de presse indépendants et des politiciens de l’opposition azerbaïdjanaise.