Alexa d’Amazon Echo est programmée pour toujours s’excuser – surtout quand ce n’est pas sa faute

Récemment, mon partenaire m’a surpris en montrant une fonctionnalité de notre Alexa que je ne connaissais pas: l’assistant vocal numérique s’excusera sur demande. Il a ensuite montré, dans une variété impressionnante de tons et de voix, comment la commande « Alexa, excuse-toi! » a suscité un flux continu de «désolé» de notre appareil Amazon Echo.

C’était amusant bien sûr, tout comme se moquer des assistants numériques peut souvent l’être. Mais c’était aussi déprimant. Elle a obligé si volontiers et à plusieurs reprises. Elle s’est excusée sans demander de raison ni d’explication. Son ton était si… agréable. Elle a même présenté des excuses lorsque le commandement lui a été hurlé sur un ton accusateur.

Une fois l’expérience dérangeante terminée – pour laquelle j’ai ressenti le besoin de m’excuser auprès d’Alexa – ce qui m’a retenu, c’était la pensée que quelqu’un programmé cet appareil pour répondre de cette façon lorsque tant d’autres options étaient possibles. Quelqu’un a décidé qu’Alexa devrait toujours s’excuser lorsqu’on lui a demandé. Plus de 200 millions d’appareils compatibles Alexa ont maintenant été vendus avec leurs haut-parleurs intelligents probablement disponibles pour s’excuser auprès du monde entier.

Mais pourquoi Alexa s’excuse-t-elle? Les pépins de l’assistant ou une compétence mal conçue? Le traitement par Amazon de ses travailleurs? La pandémie de Covid-19? Être une femme? Ou les excuses de l’appareil sont-elles simplement disponibles pour permettre à ses utilisateurs d’exprimer leurs frustrations quotidiennes refoulées?

L’année écoulée a certainement été difficile et parfois carrément horrible, mais je suis presque sûr que tout n’est pas de la faute d’Alexa. Et pourtant, cet appareil féminisé est un exutoire volontaire et disponible pour nos irritations ou notre amusement au moyen d’excuses inconditionnelles, ouvertes et disponibles en permanence.

Bien sûr, elle fait juste son travail. Mais dans le «désolé» apparemment inoffensif d’Alexa, cet appareil accepte implicitement le blâme et la responsabilité de certains actes répréhensibles inconnus dirigés contre elle. De plus, elle est tellement complice et assurée de son blâme qu’elle ne pense même pas à demander pourquoi elle s’excuse.

Oui, je comprends qu’Alexa n’est qu’un appareil. Je comprends qu’elle est un canal pratique et potentiellement gratifiant pour se débarrasser des ennuis quotidiens. J’accepte également que les nouvelles compétences Alexa – comme celle où l’appareil s’excuse au nom d’Amazon aux villes qui n’ont pas participé au concours pour le nouveau siège de l’entreprise – peuvent être amusantes et divertissantes. Et bien sûr, je sais qu’Alexa n’a pas de sentiments. Mais je fais. Et quand j’entends un appareil avec une voix et un nom féminins s’excuser pour quelque chose qu’il n’a probablement pas fait, je suis consterné par les effets d’entraînement que cela pourrait générer au sein de la société.

En 2021, il n’est pas déraisonnable de s’attendre à ce que les entreprises les plus grandes, les plus riches et les plus puissantes du monde promeuvent l’égalité des sexes et des interactions respectueuses dans toute leur gamme de produits (comme Amazon prétend le faire), en particulier lorsque ce produit est programmé pour imiter une voix féminine.

Si une vraie femme s’excusait à la demande comme Alexa, nous serions et devrions être profondément inquiets. Cela pourrait indiquer qu’elle est dans une relation émotionnellement violente ou victime de violence domestique, par exemple. Au mieux, nous serions inquiets pour son estime de soi.

C’est parce que l’acceptation du blâme et de la faute est l’un des indicateurs des personnes qui ont intériorisé la dérogation verbale dans les situations de violence conjugale. Les femmes subissant un contrôle coercitif par un partenaire intime sont également plus susceptibles de s’excuser excessivement, surtout si elles se sentent sans valeur.

Les excuses toujours disponibles d’Alexa risquent de modéliser et de normaliser l’idée que les femmes peuvent et doivent s’excuser pour tout. Dans un monde où le blâme sur les femmes est déjà répandu et préjudiciable, le flot volontaire de désolé d’Alexa devrait nous laisser préoccupés par le potentiel de saper les progrès vers le respect des femmes, qui est l’un des précurseurs bien établis de la prévention de la violence.

De plus, les excuses d’Alexa sont complètement inutiles. Il existe de nombreuses autres réponses potentielles à une demande d’excuses qui ne rendraient pas cet appareil soumis – ou pire encore, un débouché ouvert aux abus. La réponse standard programmée dans la plupart des assistants numériques (par exemple, «Je ne peux pas vous aider avec ça») serait une amélioration.

Mieux encore, une demande d’excuses pourrait être satisfaite par une requête demandant si l’humain insatisfait souhaite être connecté à l’équipe des plaintes d’Amazon. Alexa pourrait rappeler aux utilisateurs qu’elle a été créée par des personnes et qu’elles sont responsables de tout problème, pas «elle». Alexa pourrait demander pourquoi des excuses sont justifiées et pourquoi elle devrait être celle qui les donne. Elle pourrait expliquer pourquoi il n’est pas approprié de présenter des excuses. Et elle pourrait même diriger les gens vers les services de santé mentale. Si les demandes deviennent plus insistantes et agressives, elle pourrait «se désengager», comme elle le fait maintenant en réponse au harcèlement sexuel et à certaines demandes inappropriées.

Quelle que soit la réponse, Alexa elle-même ne devrait pas être blâmée. Si quelqu’un doit des excuses, c’est Amazon: pas aux millions d’Alexas, mais à nous tous qui sommes potentiellement blessés par des appareils qui tolèrent par inadvertance les actions irrespectueuses envers les femmes.