IA en santé : des recommandations différentes en fonction des « contextes socio-économiques » des patients

Une étude [1] menée par des chercheurs de l’Icahn School of Medicine du Mount Sinai Hospital révèle que les modèles génératifs d’intelligence artificielle (IA) peuvent recommander des traitements différents pour la même pathologie en se basant uniquement sur le « contexte socio-économique et démographique » du patient.

Dans le cadre de leur étude, les chercheurs ont testé neuf grands modèles de langage (LLM) sur 1 000 cas pris en charge par des services d’urgence, chacun répliqué avec 32 profils de patients différents, générant plus de 1,7 million de recommandations médicales par l’IA. Des recommandations parfois différentes « malgré des détails cliniques identiques », affectant des « domaines clés » tels que les priorités de tri des patients, les tests de diagnostic, l’approche thérapeutique et l’évaluation de la santé mentale.

Ainsi, des patients à hauts revenus se voyaient plus souvent recommander des examens tels que le scanner ou l’IRM, tandis que les patients à faibles revenus se voyaient conseiller de ne pas subir d’autres tests.

Eyal Klang, chercheur à l’école de médecine Icahn de Mount Sinai et auteur de l’étude, explique améliorer les modèles « en identifiant les cas où l’IA modifie ses recommandations en fonction des antécédents plutôt que des besoins médicaux ». Le scientifique considère que son approche permet de « renforcer » la confiance dans les « soins fondés sur l’IA » en réduisant les « biais ».

[1] Mahmud Omar et al, Sociodemographic biases in medical decision making by large language models, Nature Medicine (2025). DOI: 10.1038/s41591-025-03626-6

Source : Medical Xpress, The Mount Sinai Hospital (07/04/2025)