A l’hôpital, l’IA inopérante face aux cas les plus graves

Certains hôpitaux français utilisent l’IA non seulement pour prévoir le temps d’attente aux urgences [1] mais aussi pour accélérer un diagnostic (Parkinson)[2] ou évaluer un risque de rechute (cancer du sein)[3].

La recherche sur les usages de l’IA en médecine préventive se poursuit (cf « Détecter le diabète « plus de 10 ans » avant le développement de la maladie ? ») et l’importance des enjeux s’accroît, à présent il est question que l’IA contribue au tri des patients admis aux urgences. Au CHU de Bordeaux, l’exploitation des données médicales pour entraîner un logiciel a déjà commencé [4]…

Aux Etats-Unis, l’IA est déjà utilisée dans des cas où la vie et la mort des patients sont directement en jeu.

Depuis l’autorisation par la Food and drug administration du premier diagnostic par IA, en 2018, l’usage du machine learning s’est répandu dans les hôpitaux américains [5].

Des modèles peu efficaces ?

Actuellement, 65% des hôpitaux utilisent des modèles prédictifs assistés par intelligence artificielle dans les unités de soins intensifs et en cancérologie. Les modèles prédictifs sont impliqués dans la prise en charge de patients qui sont dans un état critique. Il s’agit d’identifier les signes d’une dégradation rapide de l’état général et une modification des paramètres vitaux. Le cas échéant, les médecins sont immédiatement alertés et le patient peut recevoir une prise en charge adaptée et vivre plus longtemps.

Or un récent travail de recherche a montré que cette technologie échouait à anticiper la mortalité intra-hospitalière dans 66% des cas. Dans un article publié par la revue Communications Medicine[6], une équipe plurisciplinaire de chercheurs en informatique et en médecine de Virginia Tech dirigée par la Pr Danfeng “Daphne” Yao a montré les limites d’un modèle prédictif qui n’utilise que ses propres données, comme c’est le cas dans une majorité des cas (61%)[7]. Elle recommande de compléter cette méthode par l’intégration de connaissances médicales dans le modèle, grâce à des modèles de langage comme ChatGPT[8].

La chercheuse alerte la communauté scientifique sur l’importance de développer des méthodes d’évaluation de l’efficacité des modèles prédictifs. De nombreuses entreprises, explique-t-elle, se précipitent sur les hôpitaux pour y implanter leurs solutions technologiques, l’évaluation de ces dispositifs est « une course contre la montre »[9].

[1] Le Quotidien du médecin, Quand l’IA prédit les flux aux urgences, Arnaud Janin (11/03/2025)

[2] Data Analytics Post, Parkinson : l’IA améliore le diagnostic, Charlotte Mauger (23/03/2023)

[3] Communiqué de presse de l’AP-HP, L’hôpital Bicetre AP-HP intègre une solution IA de Dwokin pour améliorer la prédiction de rechutes du cancer du sein (20/12/2023)

[4] Next, Comment l’IA générative pourrait améliorer le triage des patients aux urgences, Sébastien Gavois (21/02/2025)

[5] Pias, T.S., Afrose, S., Tuli, M.D. et al. Low responsiveness of machine learning models to critical or deteriorating health conditions. Commun Med 5, 62 (2025).https://doi.org/10.1038/s43856-025-00775-0

[6] Pias, T.S., Afrose, S., Tuli, M.D. et al., op. cit.

[7] Bioengineer.org, Virginia Tech Study Reveals Machine Learning Models Struggle To Identify VCritical Health Decline (11/03/2025)

[8] Axios, AI fails to detect health conditions : study, Maya Goldman (12/03/2025)

[9] Communiqué de presse Eurekalert, Machine learning models fail to detect key health deteriorations, Virginia Tech research shows (11/03/2025)