Algorithme de soins de santé largement utilisé biaisé racialement

(Reuters Health) – Un algorithme de soins de santé largement utilisé qui signale les patients à haut risque de maladie grave et les cible pour une attention supplémentaire a un biais intégré involontaire contre les patients noirs, selon une nouvelle étude.

Après avoir examiné les dossiers de 6 079 patients noirs et 43 539 patients blancs à travers le prisme du logiciel chargé d’identifier les personnes les plus à risque de maladie grave, les chercheurs ont déterminé que l’algorithme était plus susceptible de signaler les patients blancs pour des soins médicaux supplémentaires que les noirs qui étaient tout aussi malade.

Les résultats de l’étude ont été publiés dans Science.

« Cette famille d’algorithmes fonctionne dans les coulisses de presque tous les systèmes de santé aux États-Unis », a déclaré l’auteur principal, le Dr Ziad Obermeyer de l’Université de Californie à Berkeley, School of Public Health. « Ils sont utilisés pour dépister des millions de patients pour des décisions importantes – comme qui reçoit une aide supplémentaire pour gérer leurs maladies chroniques. »

Concrètement, « les 3 % des patients les plus performants en termes de score de risque d’algorithme sont auto-identifiés pour s’inscrire à des programmes de gestion des soins à haut risque – cela ne garantit pas qu’ils entrent, mais c’est un peu comme une voie rapide ». Obermeyer a expliqué.

Mais le problème avec l’algorithme examiné par Obermeyer et ses collègues est son utilisation des dépenses de santé, plutôt que des données médicales réelles, pour identifier les patients les plus malades.

Il s’avère que bien que les prestataires de soins de santé dépensent à peu près le même montant d’argent pour soigner les patients noirs et blancs, les Afro-Américains sont généralement moins susceptibles de demander des soins aux premiers stades de la maladie – lorsque les coûts de prestation des soins seraient relativement faibles – et plus susceptibles d’accumuler une grosse facture vers la fin de la vie, lorsque des maladies chroniques ont entraîné des patients très malades.

« Les patients noirs génèrent des types de coûts très différents », écrivent les chercheurs. « Par exemple, moins de coûts pour les spécialistes hospitalisés et ambulatoires, et plus de coûts liés aux visites d’urgence et à la dialyse. »

Les raisons de cette disparité sont compliquées et comprennent une méfiance à l’égard du système médical par les Afro-Américains, note l’équipe de l’étude.

Obermeyer et ses collègues ne contestent pas la nécessité d’un logiciel pour découvrir les patients les plus malades. Ils craignent que les algorithmes actuellement utilisés mettent l’accent sur les mauvais facteurs dans leurs calculs.

« Il s’agit évidemment d’une activité essentielle pour notre système de santé – nous voulons que des algorithmes aident à prédire qui tombe malade et nous aident à prévenir la maladie avant qu’elle ne se produise », a déclaré Obermeyer dans un e-mail. « Mais nous voulons que les algorithmes le fassent de manière équitable. »

Lorsqu’ils ont terminé leur analyse, Obermeyer et ses collègues ont approché la société qui a créé l’algorithme et ont suggéré que des modifications soient apportées pour éliminer le biais par inadvertance et mieux identifier les patients à risque de tomber gravement malades.

« Le fabricant a indépendamment reproduit nos analyses sur son ensemble de données national de 3 695 943 patients assurés commercialement », écrivent les chercheurs. Depuis lors, l’entreprise et les chercheurs ont travaillé ensemble pour éliminer les biais du logiciel.

« Nos résultats montrent que, bien qu’il existe d’énormes possibilités de préjudice, nous pouvons également corriger les biais : en accordant une attention particulière aux choix techniques que nous faisons lors de la construction d’algorithmes, des choix fondés sur la prise de conscience des profondes inégalités sociales et historiques qui façonnent le données », a déclaré Obermeyer.

Les chercheurs ont mis en évidence l’erreur consistant à « utiliser le coût comme marqueur de substitution pour déterminer qui est en mauvaise santé et qui a le plus besoin de services de santé », a déclaré le Dr Cardinale Smith, professeur agrégé de médecine à la Icahn School of Medicine à Mount Sinai à New York et directeur de la qualité des services de lutte contre le cancer au Mount Sinai Health System.

« Lorsque vous utilisez ce marqueur de substitution, vous créez un préjugé contre les minorités raciales et ethniques qui ne reçoivent pas toujours de soins pour les maladies dont elles souffrent et ont donc tendance à se présenter plus tard dans la maladie », a déclaré Smith. « Si vous prenez l’exemple du cancer, nous savons que les patients appartenant à des minorités (sont moins susceptibles de) bénéficier de la norme de soins par rapport à leurs homologues non minoritaires. »

Et cela signifie que les patients appartenant à des minorités peuvent coûter moins cher au système pendant des années, mais il y a un prix élevé à la fin lorsque les patients sont très malades, a expliqué Smith.

SOURCE : bit.ly/33TLaQW et bit.ly/2WfAyt1 Science, en ligne le 24 octobre 2019.