Facebook défend le système exemptant le niveau « élite », y compris les politiciens et les célébrités, des règles de modération

Facebook a défendu un système qui protège des millions de célébrités, de politiciens et d’autres utilisateurs de haut niveau contre certaines des pratiques de modération de contenu de l’entreprise, dans le cadre d’un programme appelé « Cross Check ».

Le programme a été initialement lancé il y a plusieurs années en tant que « mesure de contrôle de la qualité des actions entreprises contre des comptes de haut niveau », mais accorde désormais effectivement l’immunité aux utilisateurs VIP jusqu’à ce que les plaintes puissent être examinées par un employé, selon une nouvelle enquête menée par le le journal Wall Street.

Alors qu’un message d’un utilisateur quotidien de Facebook contenant du harcèlement, une incitation à la violence ou à la désinformation serait immédiatement supprimé ou entraînerait des sanctions s’il était signalé, le programme Cross Check – également connu sous le nom de « X Check » protège les personnalités publiques de cette étape de modération.

Parmi les personnalités qui ont été « listées blanches » dans le cadre du programme, citons le compte désormais suspendu de l’ancien président américain Donald Trump, de l’ancienne secrétaire d’État américaine Hillary Clinton, de la sénatrice Elizabeth Warren et du footballeur brésilien Neymar da Silva Santos Jr. WSJ.

Facebook a depuis répondu au rapport, le porte-parole Andy Stone réitérant la position prise par la société dans un article de blog de 2018 sur Cross Check.

M. Stone a écrit sur Twitter que : « « Vérification croisée » signifie simplement que certains contenus de certaines pages ou profils font l’objet d’un deuxième examen pour s’assurer que nous avons correctement appliqué nos politiques.

« Il n’y a pas deux systèmes de justice ; c’est une tentative de sauvegarde contre les erreurs », a-t-il déclaré dans la série de tweets. « Nous savons que notre application n’est pas parfaite et qu’il y a des compromis entre vitesse et précision. »

Citant des exemples d’exemptions de contrôle croisé, le WSJ Le rapport a indiqué qu’en 2019, Neymar avait partagé des messages WhatsApp comprenant le nom et des photos nues d’une femme qui l’avait accusé de viol. Dans le courrier, il a accusé la femme de lui avoir extorqué.

Alors que la politique de Facebook sur le partage des « images intimes non consensuelles » consiste à les supprimer à l’aide de l’intelligence artificielle, la publication de Neymar est restée en ligne pendant plus d’une journée avant d’être finalement supprimée, a déclaré le WSJ rapport. Un examen interne a révélé qu’il avait atteint plus de 56 millions d’utilisateurs de Facebook et Instagram, y compris la vidéo republiée plus de 6 000 fois.

Le rapport a ajouté que si les directives de Facebook stipulent la suppression des publications contenant des nus non autorisés ainsi que le compte de la personne qui les a publiées, l’examen a décidé de « laisser les comptes de Neymar actifs, une dérogation à notre politique habituelle de désactivation du profil ‘one strike' ».

Alors que Neymar a nié les allégations, la femme a été accusée de calomnie, d’extorsion et de fraude. Les deux premières charges ont été abandonnées et elle a été acquittée dans l’affaire de fraude. Le porte-parole de Neymar a déclaré au WSJ qu’il adhère aux politiques de Facebook tout en refusant de commenter davantage.

Un examen interne du programme a critiqué la pratique de la liste blanche. Qualifiant cela d’« abus de confiance », un examen confidentiel de 2019 vu par le WSJ a déclaré : « Contrairement au reste de notre communauté, ces personnes peuvent enfreindre nos normes sans aucune conséquence. »

Citant des documents internes, le rapport indique que le nombre d’utilisateurs bénéficiant d’une protection dans le cadre de ce programme a désormais augmenté pour atteindre 5,8 millions d’utilisateurs d’ici 2020.

La publication de Facebook de 2018 indiquait que la protection de ce programme « s’applique généralement aux pages ou éléments de contenu très médiatisés et régulièrement visités sur Facebook afin qu’ils ne soient pas supprimés ou laissés de côté par erreur ». Il s’agit également d’organisations médiatiques, dont Channel 4, la BBC et The Verge.

La déclaration de 2018 indique que le programme vérifie également le contenu des célébrités, des gouvernements ou des pages pour éviter de supprimer par erreur des messages visant à sensibiliser le public au discours de haine.

« Pour être clair, la vérification croisée de quelque chose sur Facebook ne protège pas le profil, la page ou le contenu contre la suppression. C’est simplement fait pour s’assurer que notre décision est correcte », a déclaré Facebook à l’époque.

Le porte-parole du conseil de surveillance de Facebook, John Taylor, a déclaré à l’AFP que le conseil partageait son malaise face au manque de transparence du programme.

« Le Conseil de surveillance a exprimé à plusieurs reprises sa préoccupation concernant le manque de transparence dans les processus de modération du contenu de Facebook, en particulier en ce qui concerne la gestion incohérente des comptes de grande envergure par l’entreprise. »