Les préjugés de l’IA sont attribuables aux personnes, pas à la technologie

Les gros titres négatifs entourant l’IA ne sont guère nouveaux. Mais alors que les allégations de robots volent nos emplois ont été largement discréditées, des histoires sur les préjugés de l’IA ont mis en lumière un problème omniprésent et des préjugés humains.

Lorsqu’elle est correctement mise en œuvre, l’IA peut générer d’énormes gains d’efficacité et débloquer des améliorations significatives dans l’expérience et l’engagement client. Pour les spécialistes du marketing, cela peut être un outil particulièrement précieux. L’intelligence artificielle peut être utilisée pour exploiter les données sur les comportements de navigation et d’achat prévus des clients et leur secteur démographique, et ces informations peuvent ensuite être utilisées pour prendre des décisions éclairées sur le moment et la manière dont les gens sont susceptibles d’acheter.

En disposant de ces informations, les marques peuvent s’assurer qu’elles délivrent le bon message à la bonne personne au bon moment. Les acheteurs bénéficient d’une expérience client fluide et de recommandations personnalisées, tandis que la marque bénéficie d’un engagement accru et, en fin de compte, des ventes. Mais comme le prouvent les gros titres, l’IA n’est pas sans risques. Et trop souvent, les entreprises mettant en œuvre l’IA négligent le rôle essentiel que jouent les humains dans la conception des algorithmes, ce qui conduit à des résultats désastreux.

L’année dernière, par exemple, Twitter a été terni d’allégations de racisme après que ses algorithmes de recadrage d’images aient parfois «  préféré  » les visages blancs aux visages noirs, rendant la reconnaissance faciale des personnes à la peau plus foncée beaucoup plus difficile. En 2018, Amazon a été accusé de sexisme après qu’un outil d’intelligence artificielle qu’il utilisait pour trier les CV avait appris à préférer les candidats masculins aux candidats féminins. Une publicité négative comme celle-ci endommage le capital de la marque, qui prend inévitablement beaucoup de temps à réparer, il est donc essentiel que les entreprises éliminent les préjugés de l’IA. Cependant, l’IA est un outil et, en tant que tel, n’est aussi biaisée que les ensembles de données sur lesquels elle s’appuie. Pour arrêter les algorithmes préjugés, nous devons commencer à évaluer notre propre biais.

Bien que la mauvaise IA fasse les gros titres qui attirent l’attention, elle n’est pas intrinsèquement bonne ou mauvaise, mais plutôt, comme tout outil, elle peut être utilisée pour le bien ou le mal. Un couteau, par exemple, peut être utilisé pour hacher une salade ou attaquer quelqu’un – et cela est finalement influencé par la personne derrière. De la même manière, les outils d’IA sont formés sur les données, et la façon dont celles-ci sont collectées, ingérées, analysées et utilisées aura un impact final sur les résultats. Si l’IA est formée sur des ensembles de données biaisés, il est probable que les résultats seront également biaisés. Prenons l’exemple de Twitter, si un algorithme d’apprentissage en profondeur traite plus de photos de visages à la peau claire, le résultat sera finalement que le système de reconnaissance faciale reconnaîtra ces visages à la peau claire plus facilement que ceux à la peau plus foncée.

Pour lutter contre le biais de l’IA, il est essentiel que les équipes de développement soient informées des moyens transparents de collecte de données afin de s’assurer qu’elles ne nourrissent pas l’IA avec des ensembles de données biaisés. Pour y parvenir, les entreprises doivent agréger diverses données pour obtenir une image aussi complète que possible, et se rappeler que les données peuvent être biaisées non seulement par ce qui est inclus, mais aussi par ce qui est exclu. Le suréchantillonnage de certaines cohortes, par exemple, peut fausser les résultats et alimenter le biais.

Il est essentiel de disposer de la bonne infrastructure sous-jacente pour y remédier. Et cette infrastructure doit permettre une analyse approfondie des données et des moyens transparents et ouverts de collecte de données. Les plates-formes de données doivent relier les bases de données cloisonnées entre elles pour créer une vision holistique des individus. Ceux-ci peuvent ensuite être analysés facilement et utilisés pour soutenir les stratégies de marketing et engager les prospects et les clients.

Il est également important que les entreprises évitent d’utiliser tout type de modèle démographique lors du développement d’algorithmes. Il y a eu des cas passés d’IA utilisant le sexe, ou l’appartenance ethnique importante dans une zone désignée, pour influencer le prix ou le contrat proposé à un client potentiel, conduisant à une discrimination de prix contraire à l’éthique. Et lorsque les données démographiques sont utilisées pour prendre des décisions concernant la fourniture de services financiers à un individu ou pour les paiements d’assurance, le résultat peut être particulièrement préjudiciable.

Malgré la représentation décriée de l’IA, lorsqu’elle est correctement mise en œuvre, elle peut contribuer à stimuler l’engagement, à améliorer l’efficacité et à augmenter les conversions. La quantité de données dans le monde augmentant de façon exponentielle, l’IA sera également essentielle pour aider les entreprises à obtenir des informations précieuses sur les données à grande échelle. Mais pour réaliser la promesse de l’IA, nous devons nous assurer qu’elle est correctement mise en œuvre et correctement éduquée. Plutôt que de blâmer l’IA pour un parti pris, nous devons approfondir la cause humaine.

Omer Artun est directeur scientifique chez Acquia.