Un employé de Facebook en partance a déclaré que les « robots omniscients appartenant à Mark Zuckerberg » ne sauveraient pas l’entreprise de ses problèmes de modération
Dans une note d’adieu, un ancien employé a déclaré que Facebook ne devrait pas résoudre les problèmes humains avec des solutions d’ingénierie, selon les Facebook Papers.
- Un employé a déclaré que Facebook souhaitait utiliser des systèmes automatisés pour résoudre des « problèmes humains ».
- Cette réalité est dystopique, a écrit l’employé dans un « message de badge » d’adieu en 2020.
- Facebook s’appuie fortement sur l’IA pour modérer le contenu et décider des publications à mettre devant les utilisateurs.
En quittant Facebook fin 2020, un employé a averti ses anciens collègues que la dépendance de l’entreprise à l’IA ne la sauverait pas de problèmes urgents.
Dans la note d’adieu, appelée « poste de badge » en interne chez Facebook, l’employé a déclaré que l’entreprise souhaitait superviser tous les discours humains en utilisant « des robots parfaits, justes et omniscients appartenant à Mark Zuckerberg ».
Ils ont poursuivi en disant que la réalité est « clairement une dystopie, mais elle est aussi si profondément enracinée que nous ne la remarquons presque plus ». Ils ont également déclaré que plus Facebook essaie de résoudre les problèmes humains avec des solutions d’ingénierie, plus l’avenir se rapproche.
« Nous avons besoin d’humanistes plus radicaux pour interroger ces hypothèses, expliquer pourquoi la vie ne peut pas être aseptisée et perturber les nouvelles tentatives de centralisation du pouvoir », a écrit l’employé.
Des photos des publications ont été incluses dans les divulgations faites à la Securities and Exchange Commission et fournies au Congrès sous forme rédigée par le conseiller juridique de la dénonciatrice Frances Haugen. Un consortium d’agences de presse, dont The Atlantic et The New York Times, a obtenu les versions expurgées reçues par le Congrès, désormais connues sous le nom de « Facebook Papers ». Insider a également obtenu depuis des copies.
Les représentants de Facebook ont déclaré que les documents ne brossent pas le tableau complet des investissements de développement commercial, de la recherche interne et des efforts de l’entreprise pour atténuer les dommages.
Facebook utilise un mélange de systèmes humains et automatisés pour passer au crible le contenu de sa plate-forme sociale qui pourrait être nocif. Il utilise également des ordinateurs pour aider à décider quels types de contenu montrer aux utilisateurs. L’une de ces chutes de cette décision a cependant été les systèmes informatisés faisant la promotion de publications sensationnalistes, provoquant la division et contenant de la désinformation, ont montré les papiers Facebook.
La dépendance de Facebook à l’égard de l’IA était au centre du témoignage de Haugen devant un comité du Congrès au début du mois.
« J’encourage fortement les réformes qui nous poussent à utiliser des médias sociaux à échelle humaine et non des médias sociaux informatisés », a-t-elle déclaré aux législateurs. « Ces dommages d’amplification sont causés par les ordinateurs qui choisissent ce qui est important pour nous, pas les amis et la famille. »