La technologie «Accent Translation» de AI Startup accusée par les critiques du racisme

• La startup technologique Sanas a été accusée de racisme pour sa technologie de « traduction d’accent ».
• Les experts de l’intelligence artificielle et de l’industrie technologique affirment que la mission de la startup légitime le racisme et constitue une forme de « blanchiment numérique ».
• Mais certains agents des centres d’appels ont déclaré à Insider qu’ils pensaient que la technologie améliorerait leur travail quotidien.

La start-up de « traduction d’accents » Sanas a fait face à des allégations de racisme et de discrimination la semaine dernière après avoir été accusée d’avoir manipulé des accents non américains pour qu’ils sonnent « plus blancs ». La société utilise la technologie de reconnaissance vocale pour modifier l’accent de l’utilisateur en temps quasi réel. leur cible principale semble être les employés étrangers des centres d’appels.

Sharath Keshava Narayana, co-fondatrice et COO de Sanas, a nié que la technologie de la startup soit discriminatoire, déclarant à Insider que la société avait toujours eu l’intention d’étendre son modèle de traduction pour inclure d’autres accents. La démo sur son site Web, où la technologie traduit un accent indien en un accent américain standard, ne présente que son modèle initial, selon Keshava Narayana.

« Ce n’est pas seulement un Américain qui a du mal à comprendre quelqu’un d’Inde, mais vice versa aussi », a déclaré Keshava Narayana à Insider. « Alors que nous continuons à faire évoluer le produit et que nous commençons à voir de plus en plus d’accents cibles, nous pensons qu’il s’agira d’une solution localisée. »

Sanas a testé des modèles de traduction dans d’autres pays, comme l’Inde et les Philippines, et prévoit également d’introduire la traduction accentuée en Amérique latine et en Corée, selon la startup.

Cependant, certains experts de l’industrie technologique ont accusé le produit de la startup d’être une forme de « blanchiment numérique ». FrauenLoop Nakeema Stefflbauer, investisseur providentiel en IA et en technologie et PDG du groupe de programmation informatique dirigé par des femmes, a déclaré à Insider que le problème avec la réponse de Sanas est que « les accents signalent le pouvoir et l’appartenance ».

« Lorsque cela est commercialisé, il n’y a qu’une seule direction dans laquelle tout le monde est parqué », a-t-elle déclaré. « Il ne s’agit pas tant de compréhension que de confort – pour les groupes qui ne veulent pas du tout comprendre, sympathiser ou s’engager avec des personnes différentes. Cette technologie ne fait rien pour assurer le confort de l’hypothétique employé du centre d’appels. »

Elle a ajouté que jusqu’à ce que Sanas annonce cette technologie aux clients du Sud comme un outil pour mieux comprendre et communiquer avec les Américains et les Européens de l’Ouest, alors « c’est une » solution « à sens unique qui renforce les hiérarchies racialisées, que ce soit intentionnel ou non ».

Des experts de l’industrie de l’intelligence artificielle et de la technologie et des travailleurs des centres d’appels ont parlé avec Insider de ce qu’ils considéraient comme les coûts culturels, ainsi que des avantages potentiels, provenant de Sanas. Alors que la société affirme que l’objectif de sa technologie est de rendre les gens au téléphone partout dans le monde plus « locaux », Stefflbauer et d’autres dans le domaine de l’IA craignent que ce soit une autre étape vers l’homogénéisation du monde des startups – ce que la Silicon Valley a été à plusieurs reprises accusé de perpétuer.

« Qu’est-ce que cela essaie de nous dire en termes de ce à quoi ressemble l’avenir et comment nous devrions tous faire l’expérience des voix en ligne et communiquer avec les gens? » dit Stefflbauer. « Qui sont les personnes avec lesquelles nous sommes censés communiquer et qui sont les personnes dont nous n’entendons jamais parler ? »

Sanas

Les experts de l’industrie technologique disent que la « traduction » de l’accent est une forme de « blanchiment numérique »

Sanas, qui a levé 32 millions de dollars de financement, affirme que son objectif est d’aider les gens à paraître « plus locaux, globalement » sur son site Web. Dans une interview avec la BBC, Keshava Narayana a déclaré que 90% des employés de l’entreprise et ses quatre fondateurs sont des immigrants, et a nié les critiques selon lesquelles l’entreprise essaie de faire sonner le monde « blanc et américain ».

Mais Mia Shah-Dand, la fondatrice de Women in AI Ethics and Lighthouse3, a déclaré à Insider qu’en tant qu’immigrante indienne avec un accent non américain, elle a trouvé l’annonce de Sanas « très déclenchante », d’autant plus que quelqu’un qui a été « taquiné ». et discriminé en raison de [their] accent. »

Elle a dit que la technologie essaie d’effacer ce qui rend les gens uniques et leur dit que ce qu’ils sont « n’est pas assez bon ».

« Cela ressemble à tout dans la Silicon Valley, tant que c’est légitimé par les Stanford ou les MIT, ça va », a-t-elle déclaré. « Les gens accepteront le racisme, accepteront le sexisme, tant que les gens qui le pratiquent appartiendront à l’une de ces prestigieuses universités. »

Shah-Dand a ajouté que le produit de Sanas renforce une dynamique de pouvoir qui « remonte à l’époque du colonialisme ». Plutôt que de s’attaquer aux causes profondes du racisme et de la discrimination, la « traduction de l’accent » se penche sur une forme de « blanchiment » – une dynamique de pouvoir observée dans de nombreux pays historiquement colonisés où les gens se sentaient obligés de rendre leur peau plus blanche pour s’adapter aux normes de beauté européennes.

« C’est la version de la Silicon Valley du blanchiment numérique », a déclaré Shah-Dand. « Au lieu que la technologie rende le monde meilleur, elle amplifie, elle aide, elle monétise toute cette haine et ce racisme plutôt que d’essayer de réparer quoi que ce soit. »

Stefflbauer a déclaré à Insider qu’elle trouvait la technologie de Sanas « vraiment décevante et troublante », en particulier dans la culture croissante de se mettre « tout entier au travail ».

« Seules certaines personnes peuvent apporter tout leur être, tous ceux qui sont en dehors de cette norme mythique ne sont pas invités à apporter l’un d’eux », a-t-elle déclaré, faisant référence à la comédie surréaliste sombre de 2018 « Sorry to Bother You », où un télévendeur noir trouve ce nouveau les portes de la réussite professionnelle ne lui sont ouvertes qu’après avoir adopté une voix à consonance « blanche ».

« C’est vraiment un autre exemple de ce à quoi nous sommes confrontés en essayant de faire en sorte que l’industrie technologique et les produits et services qui en découlent reflètent le monde réel », a déclaré Stefflbauer.

Elle a ajouté qu’elle ne voyait pas comment cette technologie traiterait réellement les préjugés raciaux de quelque manière que ce soit.

« Il n’essaie même pas d’aborder cela dans sa solution », a-t-elle déclaré. « Il offre essentiellement un soutien et une couverture aux personnes qui se comporteront mal avec des personnes accentuées avec lesquelles elles ont des relations pour continuer à le faire. »

Les agents des centres d’appels ont déclaré à Insider qu’ils étaient confrontés à une hostilité raciale

Les fondateurs de Sanas ont déclaré avoir eu l’idée de la startup après qu’un ami d’université de Stanford ait sous-performé dans son travail dans un centre d’appels en raison de son fort accent centraméricain.

Les agents du centre d’appels avec lesquels Insider s’est entretenu ont déclaré que leur travail peut être brutal – et le sont doublement s’ils ont un accent ou un nom distinctif sur le plan racial.

« Malheureusement dans ce monde, il y a beaucoup de gens qui vont se sentir meilleurs que vous ou qui choisiront de vous parler quand ils entendront votre accent », a déclaré Dafina Swann, qui a travaillé dans des centres d’appels pendant plus de cinq ans, a déclaré.

Swann, qui vient de Trinité-et-Tobago, a déclaré avoir reçu de nombreux « commentaires hostiles » et « négatifs » de la part d’appelants qui exigeaient de parler à quelqu’un d’Américain. Elle avait également entendu parler de cas où des collègues avaient été traités de noms racistes, comme le mot n, et avaient dit qu’ils n’étaient « pas humains, mais noirs ».

Pour minimiser les réactions raciales auxquelles ils sont confrontés, certains agents des centres d’appels ont déclaré à Insider qu’ils essayaient déjà d’imiter les accents des clients et même de changer leurs noms. Parfois, la directive de changer de nom vient des managers ou des employeurs des agents.

« Après avoir commencé à me présenter sous le nom de Michael O’Connor, mes notes de performance issues des sondages auprès des clients ont augmenté – tout vert, vert, vert », a déclaré Osama Badr, un agent de centre d’appels égyptien, à Insider.

Le co-fondateur de Sanas, Keshava Narayana, a déclaré qu’il avait également vécu une expérience similaire lorsqu’il travaillait dans un centre d’appels, où il avait suivi six semaines de formation à l’accent et on lui avait dit de changer son nom en « Ethan ».

« Il y a certains incidents qui restent avec vous pendant longtemps, et celui-ci en était un », a-t-il déclaré à Insider.

Certains craignent que les voix manipulées ne signalent un avenir homogénéisé dans la technologie

Shah-Dand a déclaré qu’elle n’était pas convaincue par les défenses de la technologie, affirmant que les gens sont exposés à différents accents et peuvent les comprendre, mais ce n’est que parce que les travailleurs des centres d’appels sont traités comme « moins que » qu’ils subissent des abus injustes.

« Il y a beaucoup de gens qui ont des accents très prononcés, comme Boutros Boutros-Ghali par exemple », a déclaré Shah-Dand, faisant référence à l’ancien secrétaire général des Nations unies. « Mais parce qu’ils sont dans des positions puissantes, vous faites un effort pour comprendre. »

Stefflbauer a déclaré dans son travail qu’elle pense toujours à ce que sera la vie numérique dans 10 ou 20 ans et qu’elle s’inquiète de ce que prédit une technologie comme Sanas.

« Je vois de plus en plus d’exemples d’une vie numérique où personne n’est noir, personne n’est brun, personne n’a d’accent, personne n’a d’histoire en dehors de l’idéal mythique nord-américain », a déclaré Stefflbauer. « Et la question est : voulons-nous exporter cette mentalité et apporter cette misère à tout le monde ? Parce que c’est définitivement de cela qu’il s’agit. » D’autres technologies d’IA, y compris les technologies de reconnaissance faciale, ont également été accusées de racisme et d’homogénéisation.

« Qui serait à l’aise de prendre un selfie sur Instagram et de voir son visage automatiquement modifié pour ressembler à quelqu’un d’une race différente? » dit-elle. « C’est essentiellement ce que c’est. »

Mais les employés des centres d’appels qui doivent faire face à des commentaires racistes dans leur travail quotidien disent qu’une solution comme celle proposée par Sanas pourrait être une bénédiction.

« Cela aurait certainement facilité mon travail. Tout le monde veut être compris », a déclaré Swann. « Il y a un travail qui doit être fait, et s’il y a quelque chose qui peut être mis en œuvre pour faciliter ce travail, alors c’est génial. »