TECHNOLOGIE : LA PRESSION DES PAIRS DE FACEBOOK – Journal

Dans son témoignage écrit devant le Sénat américain le 4 octobre, la dénonciatrice de Facebook Frances Haugen déclare : « À l’heure actuelle, Facebook choisit les informations que des milliards de personnes voient, façonnant leur perception de la réalité.

Scientifique des données et ancien employé de Facebook, Haugen a divulgué une mine de documents internes au Wall Street Journal et aux forces de l’ordre américaines, alléguant que le géant de la technologie savait que ses produits alimentaient la haine et nuisaient à la santé mentale des enfants en choisissant constamment « le profit plutôt que la sécurité ». .

« Même ceux qui n’utilisent pas Facebook sont touchés par la radicalisation des personnes qui le font. Une entreprise qui contrôle nos pensées, nos sentiments et nos comportements les plus profonds a besoin d’une véritable surveillance.

Haugen a témoigné devant le Sénat américain, détaillant les politiques néfastes de la société « moralement en faillite ». Cette audience a été motivée par un rapport accablant du Wall Street Journal qui accusait Facebook d’avoir minimisé ses propres recherches sur l’impact négatif de son application Instagram sur la santé mentale des adolescents.

Facebook a ensuite discrètement publié ses recherches internes, à la suite de quoi le Sénat américain a grillé la société de technologie multinationale lors d’une audience d’une heure à Capitol Hill au début du mois. Les législateurs et les organes de presse comme le Washington Post et Bloomberg qualifient cet événement de moment « Big Tobacco » de Facebook. Suite à cela, plusieurs organisations de presse américaines publient des articles connexes, collectivement appelés « The Facebook Papers ».

Après la publication de rapports accablants impliquant le géant des médias sociaux dans la discorde entre ses utilisateurs et l’ignorance des signaux d’alarme liés à la santé mentale, il est temps de réexaminer le rôle de Big Tech dans la modération du contenu.

Haugen faisait partie de l’équipe d’intégrité civique de Facebook, mais est parti après avoir constaté que, malgré ses outils, le géant de la technologie accordait la priorité aux bénéfices et n’était pas disposé à résoudre des problèmes cruciaux tels que la diffusion de fausses informations. Elle a demandé que l’entreprise soit réglementée. « Facebook… subventionne, il paie ses bénéfices avec notre sécurité », a déclaré Haugen.

Haugen a également révélé que Facebook optimise le contenu qui suscite l’engagement des utilisateurs, c’est-à-dire la mesure des commentaires, des likes et des partages sur les réseaux sociaux. « Facebook gagne plus d’argent lorsque vous consommez plus de contenu », a-t-elle ajouté. Le site de réseautage social n’est pas étranger à la manipulation des émotions afin d’augmenter l’engagement. En 2012, Facebook a mené une étude de recherche humaine controversée qui a testé les effets de la manipulation des fils d’actualité en fonction des émotions, en modifiant les algorithmes qu’il utilise pour déterminer quelles mises à jour de statut sont apparues dans le fil d’actualité de 689 003 utilisateurs. « [T]il a plus de colère que [users] sont exposés, plus ils interagissent, plus ils consomment », a déclaré Haugen.

Selon elle, la société a modifié ses politiques de contenu avant les élections américaines de 2020 et a mis en place des garanties pour réduire la désinformation en accordant une priorité moindre au contenu politique sur son fil d’actualité. Cependant, il est revenu à d’anciens algorithmes qui donnaient la priorité à l’engagement des utilisateurs après l’émeute au Capitole des États-Unis. « Parce qu’ils [Facebook] voulaient que cette croissance revienne après les élections, ils sont revenus à leurs valeurs par défaut d’origine », a déclaré Haugen. « Je pense que c’est profondément problématique. »

S’adressant à Eos, Muhammad Umair, un ingénieur en recherche et développement basé en Suède, explique : « La plupart des applications de médias sociaux, y compris le fil d’actualité Facebook, utilisent des systèmes de recommandation algorithmiques de base. Ces systèmes de recommandation sont enracinés dans presque tout ce qui est numérique de nos jours. »

Les sites Web utilisent généralement des cookies pour suivre les activités et le comportement passé de leurs utilisateurs. Dans l’apprentissage automatique, les systèmes de recommandation sont une application populaire aujourd’hui, utilisée pour prédire la préférence ou l’intérêt de l’utilisateur. Ils sont conçus pour aider les utilisateurs à éviter une surcharge de choix, mais servent également à atteindre les objectifs du fournisseur, tels que l’engagement des utilisateurs ou l’augmentation des ventes.

« Ainsi, par exemple, lorsque vous commencez à parcourir un certain produit sur un portail d’achat en ligne comme Amazon, vous commencez à recevoir des recommandations de produits similaires qui sont soit des substituts, soit des compléments », explique Umair. « Lorsque vous regardez une certaine émission sur Netflix, des émissions similaires apparaîtront dans vos recommandations. Sur Instagram, si vous suivez un certain type d’influenceur, il vous sera recommandé de suivre des personnes similaires. De cette façon, les applications s’assurent que les utilisateurs restent engagés.

Noman Khalid, partenaire fondateur et architecte en chef des données chez Love For Data, une société de conseil en science des données et en gestion des décisions utilisant des outils d’intelligence artificielle et d’apprentissage statistique, déclare : « L’ensemble des médias sociaux est biaisé. Lorsque vous utilisez des moteurs de recherche, vos résultats sont « personnalisés » en fonction de ce que vous voulez voir. « Vous et moi obtiendrons des résultats différents lorsque nous recherchons la même chose », déclare Khalid. Chaque site Web qui souhaite vendre ou « souhaite vous connaître » collecte vos données. « La façon dont ils le stockent, comment ils le traitent et comment ils le monétisent, tout dépend de leurs propres valeurs morales et éthiques », dit-il.

L’objectif est de concevoir une application ou une interface utilisateur dont les gens ont du mal à s’éloigner. « Au départ, Facebook ne concernait que le partage ou la visualisation des statuts et des photos des moments forts de votre vie », explique Umair. « Ensuite, Snapchat a introduit des histoires qui permettaient aux gens de partager des instantanés de leur vie quotidienne. Cette fonctionnalité a ensuite été adoptée par Instagram et Facebook, alors maintenant, nous partageons constamment nos vies », poursuit-il.

« L’une des choses que j’ai remarquées, même avec mes clients, c’est qu’ils mentionnent à quel point les gens sur Instagram ont une si belle vie, les endroits qu’ils visitent et leur apparence si parfaite », explique Ali Madeeh Hashmi, psychiatre et professeur. de psychiatrie à la King Edward Medical University. « Souvent, ils ne réalisent pas que Facebook et Instagram sont des plateformes organisées. Les gens ne publient jamais leurs pires photos, seulement leurs meilleures.

Hashmi ajoute que la seule chose qui pousse les gens vers la dépression, c’est quand ils commencent à comparer leurs pires jours aux meilleurs « jours Instagram » des autres. La comparaison constante avec la vie des autres les pousse dans une spirale descendante.

« Les gens ont généralement tendance à mettre leur » meilleur visage « en ligne, donnant l’impression à un utilisateur que tout le monde s’amuse, profite de sa vie, ce qui conduit naturellement à penser que vous êtes peut-être « manquant » – sur quoi exactement ? Difficile à dire, impossible à décider », dit Hashmi.

De nombreuses études ont montré comment une utilisation excessive des médias sociaux peut provoquer ou aggraver des problèmes de santé mentale existants, voire conduire à un comportement suicidaire. Selon Hashmi, les adolescentes en particulier, en raison de diverses influences hormonales et culturelles, ont tendance à être très sensibles aux problèmes d’image corporelle. Ainsi, lorsqu’ils passent beaucoup de temps sur les réseaux sociaux et sont constamment exposés à des photos filtrées et soigneusement sélectionnées de célébrités, cela érode leur image de soi.

«Cela a vraiment du sens, en particulier pour les adolescentes qui traversent déjà des changements et qui commencent ensuite à se comparer aux autres», explique Shahzor Hashim, psychologue clinicienne. « Il est facile de se rabaisser et de se comparer à des personnes apparemment parfaites sur les réseaux sociaux. »

Hashmi conclut que bien que tous ces outils aient révolutionné la communication, les affaires, les soins de santé et même la politique, « ils ont tous été conçus spécifiquement pour utiliser la technologie, y compris l’ingénierie comportementale, pour vous assurer de passer le plus de temps possible sur un site Web ou une application. « Plus vous y consacrez de temps, mieux c’est pour les créateurs d’applications, car cela leur permet ensuite de « vendre » votre temps aux annonceurs. »

Alors, comment pouvons-nous vérifier si nous sommes subtilement guidés et affectés par l’application de médias sociaux que nous utilisons le plus ? « Si vous supprimez une application de médias sociaux particulière de votre téléphone », explique Khalid, « après quelques semaines, vos flux de médias sociaux changeront car ils n’obtiendront plus les données de votre téléphone. Nous avons besoin de beaucoup plus de sensibilisation sur ce que ces plateformes de médias sociaux impliquent, comment elles fonctionnent et ce que cela nous coûte », dit-il.

L’auteur est psychologue clinicien associé et journaliste indépendant. Elle peut être contactée à rabeea.saleem21@gmail.com

Publié dans Dawn, EOS, 31 octobre 2021