Un algorithme a prédit un rétablissement rapide à Frances Walter, une habitante du Wisconsin âgée de 85 ans dont l’épaule gauche était fracturée et qui était allergique aux analgésiques. Selon le calculateur, au bout de 16,6 jours, elle pourrait quitter sa maison de repos.
Le 17e jour, son assureur Medicare Advantage, Security Health Plan, a suivi les « informations » fournies par l’algorithme et interrompu le paiement de ses soins, concluant qu’elle était prête à retourner dans l’appartement où elle vivait seule. Pourtant elle ne pouvait toujours pas s’habiller seule, aller aux toilettes ni même pousser un déambulateur sans aide.
Plus d’un an après, un juge fédéral a conclu que la décision de l’assureur était « au mieux, spéculative » et que des milliers de dollars étaient dus à Frances Walter pour plus de trois semaines de traitement. Entre temps elle a dû dépenser toutes ses économies.
Aux Etats-Unis, Medicare Advantage est une alternative à l’assurance maladie traditionnelle, qui couvre plus de 31 millions de personnes. Une option devenue « très rentable » pour les assureurs. En effet, de plus en plus de patients âgés de plus de 65 ans et de personnes handicapées se tournent vers des dispositifs qui proposent des primes moins élevées pour prendre en charge les médicaments sur ordonnance. En contrepartie ils donnent aux assureurs une plus grande latitude pour refuser et restreindre les services.
« Bien que les entreprises affirment que [l’algorithme] n’émet que des recommandations, il finit par devenir une règle stricte que les entreprises de gestion des soins essaient vraiment de suivre », assure David Lipschutz, directeur associé du Center for Medicare Advocacy, une association à but non lucratif.
Complément du 18/11/2023 : Un recours collectif déposé mardi affirme que UnitedHealth Group utilise un algorithme d’intelligence artificielle « défectueux » pour refuser à tort de prendre en charge des patients de Medicare qui ont besoin de soins de réadaptation après une hospitalisation. La plainte a été déposée devant le tribunal de district du Minnesota.
Cette action en justice « découle du déploiement illégal par les défendeurs de l’intelligence artificielle (IA) à la place de véritables professionnels de santé pour refuser injustement aux patients âgés les soins qui leur sont dus dans le cadre des plans Medicare Advantage, en passant outre les décisions de leurs médecins traitants quant aux soins médicalement nécessaires sur la base d’un modèle d’IA dont les défendeurs savent qu’il a un taux d’erreur de 90 % », indique l’action en justice.
UnitedHealthcare est l’un des plus grands assureurs de santé du pays. Pour l’entreprise, la plainte serait « sans fondement ».
Sources : Stat news, Casey Ross et Bob Herman (13/03/2023) ; Medical Xpress, Christopher Snowbeck (16/11/2023)
