Étude: Facebook propose des offres d’emploi biaisées, biaisées par le sexe – World News

Selon une nouvelle étude, Facebook présente différentes offres d’emploi aux femmes et aux hommes d’une manière qui pourrait aller à l’encontre des lois anti-discrimination.

Des chercheurs de l’Université de Californie du Sud qui ont examiné les algorithmes de diffusion d’annonces de Facebook et LinkedIn ont constaté que Facebook était biaisé par le sexe au-delà de ce qui peut être légalement justifié par des différences de qualifications professionnelles.

Les hommes étaient plus susceptibles de voir les offres d’emploi de livreur de pizza de Domino sur Facebook, tandis que les femmes étaient plus susceptibles de voir les annonces des acheteurs Instacart.

La tendance s’est également maintenue dans les emplois d’ingénierie mieux rémunérés dans des entreprises de technologie comme Netflix et le fabricant de puces Nvidia. Une proportion plus élevée de femmes ont vu les publicités Netflix que les publicités Nvidia, ce qui correspond à la répartition par sexe de l’effectif de chaque entreprise.

Aucune preuve de partialité similaire n’a été trouvée dans les offres d’emploi diffusées par LinkedIn.

L’auteur de l’étude Aleksandra Korolova, professeur adjoint d’informatique à l’USC, a déclaré qu’il se pourrait que LinkedIn fasse un meilleur travail pour éliminer délibérément les préjugés, ou qu’il se pourrait que Facebook soit tout simplement meilleur pour capter les indices du monde réel de ses utilisateurs. sur les déséquilibres entre les sexes et les perpétuer.

«Ce n’est pas que l’utilisateur dise: ‘Oh, ça m’intéresse.’ Facebook a décidé au nom de l’utilisateur s’il est susceptible de s’engager », a-t-elle déclaré.« Et ce n’est pas parce qu’historiquement un certain groupe n’était pas intéressé à s’engager dans quelque chose, cela ne signifie pas qu’il ne devrait pas avoir l’occasion de le faire , en particulier dans la catégorie des emplois. »

Facebook a déclaré vendredi dans un communiqué qu’il avait pris des mesures significatives pour résoudre les problèmes de discrimination dans les publicités.

« Notre système prend en compte de nombreux signaux pour essayer de diffuser des publicités qui les intéresseront le plus, mais nous comprenons les préoccupations soulevées dans le rapport », indique-t-il.

Facebook a promis de réviser son système de ciblage publicitaire en 2019 dans le cadre d’un règlement juridique.

Le réseau social a alors déclaré qu’il n’autoriserait plus les annonces de logement, d’emploi ou de crédit ciblant les personnes par âge, sexe ou code postal. Il a également limité les autres options de ciblage afin que ces publicités n’excluent pas les gens sur la base de la race, de l’appartenance ethnique et d’autres catégories légalement protégées aux États-Unis, y compris l’origine nationale et l’orientation sexuelle.

Le ciblage publicitaire personnalisable à l’infini est le pain quotidien de Facebook, de sorte que toute limite imposée à son processus pourrait nuire aux revenus de l’entreprise. Les publicités que les utilisateurs voient peuvent être adaptées aux détails les plus détaillés – pas seulement où vivent les gens et quels sites Web ils ont visités récemment, mais s’ils se sont engagés au cours des six derniers mois ou s’ils partagent des caractéristiques avec des personnes qui ont récemment acheté de nouvelles baskets, même s’ils n’ont jamais manifesté leur intérêt à le faire eux-mêmes.

Mais même si les annonceurs ne peuvent pas faire le ciblage eux-mêmes, l’étude montre ce que les critiques soulignent depuis des années – que les propres algorithmes de Facebook peuvent discriminer, même si les annonceurs d’emploi eux-mêmes n’ont aucune intention.

«Nous n’avons vu aucune preuve publique qu’ils travaillent sur les problèmes liés à leurs algorithmes créant de la discrimination», a déclaré Korolova.

Puisqu’il n’est pas possible de montrer à chaque utilisateur toutes les publicités qui lui sont destinées, le logiciel de Facebook choisit ce qu’il juge pertinent. Si davantage de femmes manifestent de l’intérêt pour certains emplois, le logiciel apprend qu’il devrait montrer aux femmes davantage de ces types d’annonces.

LinkedIn a déclaré que les conclusions de l’étude s’alignaient sur son examen interne du ciblage des offres d’emploi.

« Cependant, nous reconnaissons que le changement systémique prend du temps, et nous sommes au début d’un très long voyage », a déclaré la société dans un communiqué.

Les lois américaines autorisent le ciblage des publicités en fonction des qualifications, mais pas des catégories protégées telles que la race, le sexe et l’âge. Mais les lois anti-discrimination sont en grande partie fondées sur les plaintes et personne ne peut se plaindre d’être privé d’une opportunité d’emploi s’il ne savait pas que cela lui était arrivé, a déclaré Sandra Wachter, professeur à l’Université d’Oxford spécialisée dans le droit des technologies.

«Les outils que nous avons développés pour prévenir la discrimination avaient à l’esprit un auteur humain», a déclaré Wachter, qui n’a pas participé à l’étude de l’USC. «Un algorithme discrimine très différemment, regroupe les gens différemment et le fait de manière très subtile. Les algorithmes discriminent derrière votre dos, en gros. « 

Alors que Domino’s et Instacart ont des exigences d’emploi similaires pour leurs chauffeurs, la main-d’œuvre de livraison de Domino est principalement masculine, tandis que celle d’Instacart est plus de la moitié des femmes. L’étude, qui a examiné les annonces de conducteurs diffusées en Caroline du Nord par rapport aux données démographiques des registres des électeurs, a révélé que les algorithmes de Facebook semblaient apprendre de ces disparités entre les sexes et les perpétuer.

La même tendance s’est également produite avec les emplois de vente chez le détaillant Reeds Jewelers, que plus de femmes ont vu, et chez le concessionnaire Leith Automotive, que plus d’hommes ont vu.

Les chercheurs appellent à un audit plus rigoureux de ces algorithmes et à examiner d’autres facteurs tels que les préjugés raciaux. Korolova a déclaré que les audits externes tels que l’étude de l’USC ne peuvent faire beaucoup sans avoir accès aux algorithmes propriétaires de Facebook, mais que les régulateurs pourraient exiger une forme d’examen indépendant pour vérifier la discrimination.

«Nous avons vu que les plates-formes ne sont pas très douées pour auto-contrôler leurs algorithmes pour les conséquences sociétales indésirables, en particulier lorsque leur entreprise est en jeu», a-t-elle déclaré.