Meta accepte de modifier la technologie publicitaire dans le cadre d’un règlement avec les États-Unis

SAN FRANCISCO – Meta a accepté mardi de modifier sa technologie publicitaire et de payer une amende de 115 054 $, dans le cadre d’un règlement avec le ministère de la Justice concernant des allégations selon lesquelles les systèmes publicitaires de l’entreprise avaient discriminé les utilisateurs de Facebook en limitant qui pouvait voir des annonces immobilières sur la plate-forme. en fonction de leur race, sexe et code postal.

En vertu de l’accord, Meta, l’entreprise anciennement connue sous le nom de Facebook, a déclaré qu’elle changerait de technologie et utiliserait une nouvelle méthode assistée par ordinateur qui vise à vérifier régulièrement si les publics ciblés et éligibles pour recevoir des annonces immobilières voient effectivement ces publicités. La nouvelle méthode, appelée «système de réduction de la variance», s’appuie sur l’apprentissage automatique pour garantir que les annonceurs diffusent des annonces liées au logement à des catégories de personnes protégées spécifiques.

« Nous allons occasionnellement prendre un instantané des publics des spécialistes du marketing, voir qui ils ciblent et supprimer autant de variance que possible de ce public », Roy L. Austin, vice-président des droits civils de Meta et avocat général adjoint. , a déclaré dans une interview. Il l’a qualifié de « progrès technologique significatif dans la manière dont l’apprentissage automatique est utilisé pour diffuser des publicités personnalisées ».

Facebook, qui est devenu un colosse commercial en collectant les données de ses utilisateurs et en permettant aux annonceurs de cibler les publicités en fonction des caractéristiques d’un public, fait face depuis des années à des plaintes selon lesquelles certaines de ces pratiques sont biaisées et discriminatoires. Les systèmes publicitaires de la société ont permis aux spécialistes du marketing de choisir qui a vu leurs publicités en utilisant des milliers de caractéristiques différentes, ce qui a également permis à ces annonceurs d’exclure les personnes appartenant à un certain nombre de catégories protégées.

Alors que le règlement de mardi concerne les annonces immobilières, Meta a déclaré qu’il prévoyait également d’appliquer son nouveau système pour vérifier le ciblage des annonces liées à l’emploi et au crédit. L’entreprise a déjà été confrontée à un retour de bâton pour avoir autorisé les préjugés contre les femmes dans les offres d’emploi et exclu certains groupes de personnes de voir les annonces de cartes de crédit.

« En raison de ce procès révolutionnaire, Meta va – pour la première fois – changer son système de diffusion d’annonces pour lutter contre la discrimination algorithmique », a déclaré Damian Williams, un avocat américain, dans un communiqué. « Mais si Meta ne parvient pas à démontrer qu’il a suffisamment modifié son système de livraison pour se prémunir contre les biais algorithmiques, ce bureau poursuivra le litige. »

Meta a également déclaré qu’il n’utiliserait plus une fonctionnalité appelée « audiences publicitaires spéciales », un outil qu’il avait développé pour aider les annonceurs à élargir les groupes de personnes que leurs publicités atteindraient. Le ministère de la Justice a déclaré que l’outil se livrait également à des pratiques discriminatoires. La société a déclaré que l’outil était un premier effort pour lutter contre les préjugés et que ses nouvelles méthodes seraient plus efficaces.

La question du ciblage publicitaire biaisé a été particulièrement débattue dans les annonces immobilières. En 2018, Ben Carson, qui était le secrétaire du ministère du Logement et du Développement urbain, a annoncé une plainte officielle contre Facebook, accusant l’entreprise d’avoir des systèmes publicitaires qui « discriminaient illégalement » en fonction de catégories telles que la race, la religion et le handicap. Le potentiel de discrimination publicitaire de Facebook a également été révélé dans une enquête menée en 2016 par ProPublica, qui a montré que la technologie de l’entreprise permettait aux spécialistes du marketing d’exclure facilement des groupes ethniques spécifiques à des fins publicitaires.

En 2019, HUD a poursuivi Facebook pour discrimination en matière de logement et violation de la loi sur le logement équitable. L’agence a déclaré que les systèmes de Facebook ne diffusaient pas d’annonces à « un public diversifié », même si un annonceur voulait que l’annonce soit vue largement.

« Facebook discrimine les gens en fonction de qui ils sont et de l’endroit où ils vivent », a déclaré M. Carson à l’époque. « Utiliser un ordinateur pour limiter les choix de logement d’une personne peut être tout aussi discriminatoire que claquer une porte au nez de quelqu’un. »

La poursuite HUD est intervenue au milieu d’une poussée plus large de groupes de défense des droits civiques affirmant que les systèmes publicitaires vastes et compliqués qui sous-tendent certaines des plus grandes plates-formes Internet ont des préjugés inhérents, et que des entreprises technologiques comme Meta, Google et d’autres devraient faire plus pour battre reculer ces préjugés.

Le domaine d’étude, connu sous le nom d' »équité algorithmique », a été un sujet d’intérêt important parmi les informaticiens dans le domaine de l’intelligence artificielle. Des chercheurs de premier plan, dont d’anciens scientifiques de Google comme Timnit Gebru et Margaret Mitchell, tirent la sonnette d’alarme sur ces biais depuis des années.

Au cours des années qui ont suivi, Facebook a restreint les types de catégories parmi lesquelles les spécialistes du marketing pouvaient choisir lors de l’achat d’annonces immobilières, en réduisant le nombre à des centaines et en éliminant les options de ciblage en fonction de la race, de l’âge et du code postal.

Le nouveau système de Meta, qui est encore en développement, vérifiera occasionnellement qui reçoit des annonces pour le logement, l’emploi et le crédit, et s’assurera que ces publics correspondent aux personnes que les spécialistes du marketing souhaitent cibler. Si les publicités diffusées commencent à être fortement orientées vers les hommes blancs dans la vingtaine, par exemple, le nouveau système le reconnaîtra théoriquement et déplacera les publicités pour qu’elles soient diffusées plus équitablement parmi des publics plus larges et plus variés.

Meta a déclaré qu’il travaillerait avec HUD au cours des prochains mois pour intégrer la technologie dans les systèmes de ciblage publicitaire de Meta, et a accepté un audit tiers de l’efficacité du nouveau système.

La pénalité que Meta paie dans le règlement est le maximum disponible en vertu de la loi sur le logement équitable, a déclaré le ministère de la Justice.