Les réactions Emoji étaient un ajout mignon à Facebook. Ils sont devenus un mal de tête.

Fin 2017, Facebook en était aux dernières étapes de la préparation d’un changement majeur dans la façon dont il classait les publications et les commentaires, et au moins un employé avait une préoccupation persistante : que faire des emojis.

Le plan était de donner des réactions emoji telles que « amour » et « colère » cinq fois le poids d’un « j’aime » traditionnel dans la formule secrète de Facebook, selon un document interne de l’entreprise. Cela rendrait le contenu qui a suscité ces réactions beaucoup plus courant dans les fils d’actualité de la gigantesque base d’utilisateurs de Facebook.

L’employé a rapidement prévu quel problème cela pourrait causer.

« Question rapide pour jouer l’avocat du diable : est-ce que la pondération des réactions 5 fois plus forte que les likes conduira à un fil d’actualités ayant un ratio plus élevé de contenu controversé que de contenu agréable ? » l’employé a demandé sur un babillard interne.

« C’est-à-dire que si je publie une histoire selon laquelle j’ai acheté un café (exemple assez ennuyeux que je connais), je pourrais inviter quelques likes d’amis. Cependant, si je publie « Steve Bannon Punches Hillary », j’obtiendrai probablement des réactions plus polarisées avec les emojis Angry et donc (5x?) Plus de distribution », a écrit la personne.

La réponse des collègues : c’est possible, mais l’entreprise était au courant du problème potentiel et travaillait dur pour ne pas promouvoir les « appâts d’engagement ».

Il s’est avéré que l’inquiétude du premier employé était prémonitoire et que les visages de dessins animés en colère auraient plus d’influence sur les milliards d’utilisateurs de Facebook que prévu, selon les documents de l’entreprise. Mais il a fallu des années à Facebook pour réaliser à quel point la personne avait raison, et quand elle l’a fait, elle a changé de cap.

L’histoire des réactions d’emoji de Facebook illustre comment l’entreprise en est venue à fonctionner – parfois à un rythme effréné et d’autres fois avec prudence. Il est capable d’utiliser même de petites modifications logicielles pour changer radicalement ce que les gens voient en ligne et persiste à tester l’impact qui en résulte. L’histoire montre également à quel point Facebook est devenu complexe, à la fois en tant qu’application de médias sociaux et en tant qu’entreprise dotée d’un important personnel de recherche.

Des documents décrivant l’étude des réactions emoji ont été inclus dans les divulgations faites à la Securities and Exchange Commission et fournis au Congrès par le conseiller juridique de Frances Haugen, qui a travaillé en tant que chef de produit Facebook jusqu’en mai et s’est manifestée en tant que dénonciatrice.

Le conseiller juridique de Haugen a caviardé la plupart des noms des employés de Facebook. Le Washington Post a rendu compte cette semaine du débat interne, et en septembre, le Wall Street Journal a rapporté comment les changements d’algorithme, y compris le poids accordé aux emojis, faisaient de Facebook un endroit plus en colère.

Bien que les documents ne soient pas exhaustifs, ceux qui ont été publiés illustrent l’évolution de l’un des outils les plus importants de Facebook – son algorithme de classement – à travers les mots de ses propres employés.

Les boutons de réaction sont importants au-delà de Facebook. Pendant des années, les sociétés de médias sociaux en ligne ont eu du mal à concevoir des boutons qui n’encouragent pas les comportements toxiques ou s’il faut les avoir du tout. Reddit a eu des « votes positifs » et des « votes négatifs » depuis ses premiers jours en 2005. Twitter a essayé différentes approches pour son bouton « J’aime », qui est antérieur à celui de Facebook. Un concepteur derrière le bouton « J’aime » de Facebook a depuis exprimé des doutes, et Instagram permet désormais aux utilisateurs de masquer leur nombre de J’aime. Nextdoor propose également des emojis de réaction.

La saga des emoji de Facebook a commencé en février 2016 lorsque l’entreprise a repensé le bouton « J’aime » pour inclure cinq autres façons de réagir à une publication : « amour », « haha », « wow », « triste » et « en colère ». (Encore une autre réaction emoji, « yay », a été envisagée mais n’a pas été retenue.)

Les emojis ont pris une importance renouvelée deux ans plus tard lorsque Facebook a annoncé un nouveau système de classement pour déterminer quelles publications les gens ont vues et dans quel ordre. Le système accordait un poids égal aux cinq réactions emoji, et c’était vrai quel que soit le contexte ou l’intention de la personne qui réagissait, donc une théorie du complot avec beaucoup de réactions « haha » ou une image violente avec beaucoup de « colère » les réactions bénéficieraient potentiellement d’un coup de pouce supplémentaire de l’algorithme.

Plus il y a d’émojis, qu’il s’agisse de visages en colère ou de cœurs montrant de l’amour, plus les ordinateurs de Facebook interpréteront le sens.

Le porte-parole de Facebook, Drew Pusateri, a déclaré cette semaine que Facebook avait testé différentes versions du système de classement – connues sous le nom d’interactions sociales significatives – avant le lancement et avait mené des recherches importantes.

« L’objectif des interactions sociales significatives est d’améliorer l’expérience des gens en donnant la priorité aux publications qui inspirent les interactions entre la famille et les amis, et cet objectif reste inchangé », a-t-il déclaré dans un e-mail. « La formule pour atteindre l’objectif de MSI est continuellement mise à jour et affinée en fonction des nouvelles recherches et des commentaires directs des utilisateurs. »

Les documents de Haugen ont repris l’histoire en avril 2019, lorsque des chercheurs internes ont laissé entendre que quelque chose n’allait pas.

« J’ai rassemblé des preuves sur la façon dont les réactions de colère, dans l’ensemble, sont instrumentalisées par des personnalités politiques et des incitations négatives créatives sur la plate-forme », a écrit un employé sur un babillard interne.

Il n’y avait pas encore beaucoup de preuves, ont écrit lui et ses collègues, mais leur discussion a marqué un regain d’intérêt pour l’impact des réactions emoji.

« Réaction de colère, partages et commentaires de merde – les trois choses auxquelles je pense depuis un moment maintenant ! » un employé a écrit dans le même fil, décrivant trois signaux possibles pour identifier les messages toxiques.

Quelqu’un dans le fil a demandé plus d’études pour déterminer s’il y avait vraiment des corrélations troublantes entre le contenu toxique et certains emojis : « Je pense qu’un projet de recherche clé serait : qui est un employeur en colère sur Facebook, et pourquoi le font-ils ? Est-ce une partie fréquente de leur participation à FB, ou existe-t-il des archétypes d’utilisateurs qui s’engagent en colère avec le contenu ? »

En novembre 2019, d’autres recherches avaient été menées, et cela n’allait pas bien. Il s’est avéré que tous les emojis n’étaient pas créés égaux, et les employés ont commencé à penser qu’ils devraient modifier les poids de réaction afin qu’ils ne soient pas tous les mêmes.

« Nous constatons que les colères, hahas, wows semblent plus fréquents sur les informations civiques de mauvaise qualité, la désinformation civique, la toxicité civique, la désinformation sur la santé et le contenu antivax sur la santé, que sur d’autres contenus civiques et de santé », a déclaré une étude ce mois-ci.

Au moins un chercheur s’est dit préoccupé par le fait que même le PDG Mark Zuckerberg pourrait ne pas comprendre ce que signifiait l’emoji «en colère». Lorsqu’un utilisateur de Facebook a exhorté l’entreprise à créer un bouton « Je n’aime pas », Zuckerberg a répondu dans un commentaire public sur le site : « Vous pouvez utiliser le visage en colère ».

Mais le chercheur a écrit dans un rapport de décembre 2019 que le visage en colère était, en fait, l’opposé d’un bouton « Je n’aime pas », car il pourrait en dire plus : « En effet, même Mark lui-même a suggéré que la réaction de colère est une moyen raisonnable d’exprimer que vous n’aimez pas un élément de contenu, même si nous le considérons actuellement comme 4 fois plus important qu’un « j’aime » moins ambigu pour vous donner plus de contenu de ce type. »

Il n’est pas clair d’après la remarque vieille de plusieurs années de Zuckerberg s’il était sincère, désinvolte ou autre chose. La société a refusé de commenter l’ancienne remarque de Zuckerberg cette semaine, et au fil des ans, Facebook n’a généralement pas commenté les réactions des emojis, sauf pour annoncer de nouveaux emojis et répondre aux révélations de Haugen cette semaine.

En janvier 2020, selon des documents, Facebook avait décidé que les emojis dans l’ensemble devraient avoir moins de poids dans l’algorithme de classement, mais le poids de chacun restait égal. Lorsqu’un chercheur sur un babillard a demandé pourquoi, un autre a répondu qu’il y avait des arguments solides des deux côtés mais que « la voix de la prudence l’a emporté » en attendant une étude plus approfondie.

« La prudence consiste en effet à imposer un jugement sur les valeurs des différentes émotions », a écrit le deuxième chercheur.

Mais sur un autre front, Facebook commençait à penser que les utilisateurs n’avaient pas assez d’options émotionnelles pour leurs réactions. En avril, il a ajouté une septième réaction emoji, « soin », qui pourrait être particulièrement utile pendant la pandémie de coronavirus.

Des mois plus tard, une proposition d’arrêter de donner du poids à la réaction du visage en colère circulait.

« Nous voyons que la colère et les réactions haha ​​sont très répandues sur la désinformation et la toxicité », a déclaré un rapport interne de juillet 2020.

« Le nombre de publications Hahas a Civic reçues est un prédicteur fortement négatif pour savoir si les téléspectateurs de la publication la considèrent comme digne de confiance, importante ou bonne pour leur communauté. Néanmoins, Haha est la réaction la plus courante sur le contenu civique », ont écrit les chercheurs dans le rapport.

Des documents montrent qu’en septembre 2020, Facebook a approuvé une refonte. L’emoji au visage en colère ne compterait plus pour rien dans le classement des flux ; Les réactions « wow », « désolé » et « haha » compteraient un peu, avec un poids de « 1 » dans la formule, et les réactions « amour » et « soins » compteraient davantage, avec un poids de « 2 ».

« À ce stade, nous ne nous attendons pas à devoir reformuler nos objectifs, mais nous pouvons discuter si les sauts métriques sont vraiment importants », a déclaré l’annonce interne.

Dans les commentaires sur l’annonce, les employés ont attiré l’attention sur les prochains problèmes à résoudre, comme les photos de spam pour lesquelles un auteur demande un commentaire « OK » ou « Oui » pour obtenir un code de réduction.

« Les commentaires sur les appâts de fiançailles sont un problème ! » a écrit un employé.