Conseils de l’OMS sur l’intelligence artificielle pour améliorer les soins de santé et atténuer les risques dans le monde |
« Comme toutes les nouvelles technologies, l’intelligence artificielle… peut également être mal utilisée et causer des dommages », a réchauffé Tedros Adhanom Ghebreyesus, directeur général de l’Organisation mondiale de la santé (OMS).
Pour réglementer et régir l’IA, l’OMS a publié de nouvelles directives qui fournissent six principes pour limiter les risques et maximiser les opportunités intrinsèques à l’IA pour la santé.
Gouverner l’IA
Le rapport de l’OMS sur l’éthique et la gouvernance de l’intelligence artificielle pour la santé souligne que l’IA peut être et, dans certains pays riches, est déjà utilisée pour améliorer la vitesse et la précision du diagnostic et du dépistage des maladies ; aider aux soins cliniques; renforcer la recherche en santé et le développement de médicaments ; et soutenir diverses interventions de santé publique, y compris la riposte aux flambées et la gestion des systèmes de santé.
L’IA pourrait également permettre aux patients de mieux contrôler leurs propres soins de santé et permettre aux pays pauvres en ressources de combler les lacunes en matière d’accès aux services de santé.
Cependant, le rapport met en garde contre la surestimation de ses avantages pour la santé, en particulier au détriment des investissements et des stratégies de base nécessaires pour atteindre la couverture sanitaire universelle.
Les défis demeurent
Le nouveau rapport de l’OMS souligne que les opportunités et les risques sont liés et met en garde contre la collecte et l’utilisation contraires à l’éthique des données de santé, les biais encodés dans les algorithmes et les risques pour la sécurité des patients, la cybersécurité et l’environnement.
De plus, il avertit que les systèmes formés principalement sur les données collectées auprès des individus dans les pays à revenu élevé peuvent ne pas bien fonctionner pour les individus dans les milieux à revenu faible et intermédiaire.
Dans ce contexte, l’OMS soutient que les systèmes d’IA doivent être soigneusement conçus pour refléter la diversité des contextes socio-économiques et de soins de santé et être accompagnés d’une formation aux compétences numériques et d’un engagement communautaire.
Ceci est particulièrement important pour les travailleurs de la santé qui ont besoin de connaissances numériques ou de recyclage pour faire face à des machines qui pourraient remettre en question la prise de décision et l’autonomie des prestataires et des patients.
Des principes directeurs
Parce que les gens doivent garder le contrôle des systèmes de santé et des décisions médicales, le premier principe directeur est de protéger l’autonomie humaine.
Deuxièmement, les concepteurs d’IA doivent protéger la vie privée et la confidentialité en fournissant aux patients un consentement éclairé valide par le biais de cadres juridiques appropriés.
Pour promouvoir le bien-être humain et l’intérêt public, le troisième principe appelle les concepteurs d’IA à garantir les exigences réglementaires en matière de sécurité, de précision et d’efficacité, y compris des mesures de contrôle de la qualité.
Dans le cadre de la transparence et de la compréhension, le quatrième principe exige que les informations soient publiées ou documentées avant que la technologie d’IA ne soit conçue ou déployée.
Bien que les technologies d’IA effectuent des tâches spécifiques, elles doivent être utilisées de manière responsable, dans des conditions appropriées par des personnes correctement formées, ce qui est le quatrième principe.
Le cinquième est d’assurer l’inclusion et l’équité afin que l’IA pour la santé soit accessible au plus grand nombre possible de personnes, indépendamment de l’âge, du sexe, de l’origine ethnique ou d’autres caractéristiques protégées par les codes des droits humains.
Le dernier principe incite les concepteurs, les développeurs et les utilisateurs à évaluer de manière transparente les applications lors de leur utilisation réelle afin de déterminer si l’IA répond de manière adéquate et appropriée aux attentes et aux exigences.