Les chatbots ont le vent en poupe. Cette approche tient compte de leurs risques

L’intelligence artificielle (IA) se développe à un rythme effréné dans les produits et services que nous utilisons quotidiennement. Il existe cependant des préoccupations éthiques bien connues concernant son utilisation. Le plus discuté est peut-être la reconnaissance faciale dans les lieux publics et son impact sur la vie privée.

Un éventail d’applications d’IA suscite des préoccupations concernant l’éthique, telles que les préjugés, la transparence et l’explicabilité. Malgré cela, la réglementation de l’utilisation de l’IA fait gravement défaut. Les processus progressifs et délibérés derrière les réglementations prennent du retard par rapport à la croissance exponentielle de l’utilisation de l’IA.

La Commission européenne a relevé ce défi en publiant en avril de nouvelles actions et règles proposées pour une IA digne de confiance. Il s’agissait sans doute du premier examen complet des nouvelles normes nécessaires pour garantir que l’on puisse faire confiance à l’IA.

Comment les chatbots sont configurés pour discuter encore plus fort

L’IA conversationnelle est l’une des utilisations les plus populaires de ce type de technologie. Il a trouvé sa place dans les haut-parleurs intelligents d’Amazon et de Google, et tous les smartphones ont soit Siri, Alexa ou l’assistant vocal Google. Il a été estimé que le nombre de propriétaires de haut-parleurs intelligents aux États-Unis devrait atteindre près de 94 millions en 2021.

L’IA conversationnelle est également intégrée aux chatbots, qui ont également été largement déployés sur les sites Web, les plateformes de médias sociaux et les applications pour smartphones. La pandémie de COVID-19 a accéléré l’utilisation des chatbots dans le secteur de la santé.

La proposition de l’UE est une approche fondée sur les risques, traitant les applications d’IA en quatre catégories : risque inacceptable, risque élevé, risque limité et risque minimal. Par exemple, l’identification biométrique à distance (telle que la reconnaissance faciale) est classée comme à haut risque. Cela est logique car il existe plusieurs problèmes de reconnaissance faciale qui peuvent dégénérer très rapidement en crises à l’échelle de la population.

Cependant, la proposition cite les chatbots comme des systèmes d’IA à risque limité et avertit que « les utilisateurs doivent être conscients qu’ils interagissent avec une machine afin qu’ils puissent prendre une décision éclairée de continuer ou de prendre du recul ».

Cette décision binaire (utiliser ou ne pas utiliser), bien que facile à suggérer, n’est pas toujours la meilleure approche de la réglementation simplement parce que l’utilisation de chatbots dans des domaines critiques pour la société tels que les soins de santé entraîne de nombreux avantages. Ceux-ci incluent leur facilité d’utilisation, leur accès 24h/24 et 7j/7, leur faible coût, leur réutilisation, leur cohérence et leur facilité de déploiement.

Dans cet esprit, l’accélération de l’utilisation des chatbots dans le domaine de la santé se poursuivra très probablement au-delà de la pandémie, offrant un accès utile aux soins de santé et aux services associés à de vastes populations. Par exemple, les clients du National Health Service au Royaume-Uni ont accès à un chatbot pour faire face au triage des « conditions urgentes mais non mortelles ».

Des pays comme le Rwanda investissent sérieusement dans cette technologie pour étendre l’accès aux soins de santé aux populations isolées. Une telle disponibilité et facilité d’utilisation ne fera qu’augmenter l’adoption de cette technologie, plutôt que de forcer les gens à faire le type de choix binaire suggéré dans la proposition de l’UE.

Bien qu’il existe de nombreux avantages à utiliser des chatbots dans le domaine de la santé, il existe également des risques. Par exemple, lorsqu’un chatbot est utilisé pour trier les patients, un soin extrême doit être pris pour s’assurer que l’IA derrière la décision de triage a été formée sur des données qui sont précisément représentatives de la population qui utilise le chatbot.

Ce n’est pas une chose facile à faire, car la sécurisation des données historiques de la population cible n’est pas toujours possible pour un certain nombre de raisons. Il s’agit notamment des lois locales sur l’utilisation des données de santé, la rigueur de la collecte des données passées et les coûts de conversion des données.

D’autres préoccupations incluent l’efficacité des chatbots dans l’application de soins de santé cible, un manque de place pour que les humains puissent intervenir ou outrepasser les suggestions des chatbots, une transparence insuffisante sur les décisions prises par les chatbots et des questions sur la sécurité des données collectées par le chatbot. . Pour une discussion plus détaillée à ce sujet, voir ce rapport.

Certes, la proposition de l’UE n’entre pas dans le genre de détails que nous présentons ici et laisse suffisamment de place pour « reclasser » les candidatures dans des catégories à plus haut risque. Dans le cadre de la proposition de l’UE, les chatbots pouvez être classés comme « à haut risque » s’ils ciblent les « services privés et publics essentiels », qui incluent vraisemblablement les soins de santé. Mais les chatbots utilisés dans les soins de santé doit être classé comme à haut risque si les préoccupations concernant cette utilisation, telles que celles mentionnées ci-dessus, doivent être traitées de manière adéquate.

Comment démarrer la course

Alors que nous suggérons de catégoriser l’utilisation des chatbots dans les soins de santé comme à haut risque, nous reconnaissons également que la plupart des entreprises qui innovent dans ce domaine sont des petites et moyennes entreprises qui peuvent ne pas disposer de la bande passante ou des ressources nécessaires pour développer la gouvernance interne nécessaire.

Même les grandes entreprises impliquées dans l’utilisation de cette technologie, telles que les hôpitaux, les compagnies d’assurance et les régulateurs gouvernementaux, manquent souvent de la compréhension nécessaire de la technologie et de ses implications pour être en mesure de développer rapidement les actions de gouvernance nécessaires. En effet, l’élaboration d’un cadre de gouvernance interne demande un temps et des ressources considérables.

Pour relever ce défi, nous avons réuni des parties prenantes de toutes les parties de l’écosystème – y compris les développeurs de chatbots, les fournisseurs de plateformes, les professionnels de la santé, les universités, la société civile et les gouvernements – pour développer un cadre de gouvernance, qui peut être téléchargé et utilisé par tous.

Le cadre contient 10 principes (Figure 2 ci-dessous), soigneusement organisés par les participants multipartites. Plus important encore, les auteurs fournissent, pour chacun des 10 principes, un ensemble d’actions qui peuvent être utilisées pour « opérationnaliser » les principes.

En intégrant les actions dans leur plan de développement ou de déploiement de chatbot, les différents acteurs de l’écosystème (développeurs, fournisseurs et régulateurs) peuvent rapidement s’engager sur la voie de la conformité aux réglementations à venir, comme celle de l’UE.

Enfin, l’utilisation du cadre donne aux petites et moyennes entreprises la possibilité de faire preuve de leadership dans l’utilisation responsable de l’IA (chatbots) dans le domaine de la santé, en plus de leur fournir un bon départ.