IA en santé : « la question est désormais de savoir ce que nous voulons en faire, quels objectifs nous voulons poursuivre »

Le 14 mars, la Chaire Internationale de Bioéthique Jérôme Lejeune organise à Paris un séminaire de bioéthique sur l’intelligence artificielle et la santé. Un après-midi pour mieux comprendre les implications, avantages et risques de l’IA en matière de santé. Il accueillera notamment le Pr Olivier Rey, philosophe et mathématicien, Stéphane Ragusa, président fondateur de Predilife et docteur en biologie moléculaire, Laëtitia Pouliquen, fondatrice du think tank NBIC Ethics, auteur de plusieurs livres dont IA Maître du Temps, et Jean-Marie Le Méné, président de la Fondation Jérôme Lejeune. Alors que les utilisations de l’IA en santé sont très variées, Laëtitia Pouliquen a accepté de répondre aux questions de Gènéthique afin d’apporter un éclairage sur les enjeux de ce « saut technologique » (cf. Intelligence artificielle : « il y a un combat moral, politique, civilisationnel qui est à mener pour nos enfants »).

Gènéthique : Quels sont les principaux enjeux de l’utilisation de l’IA en santé ?

Laëtitia Pouliquen : Parmi les évolutions récentes, certaines me semblent nécessiter une attention particulière. Je citerai ici par exemple le « jumeau numérique » (digital twin), ou « jumeau de santé ».

Le « jumeau numérique » est une technologie en forte expansion dans le domaine de la santé. A l’horizon 2035 – 2040, on envisage que la technologie génomique, l’imagerie, la collecte de données dans le dossier numérique permettront d’établir une réplique virtuelle intégrant toutes les données de santé. Les « jumeaux de santé » serviront en vue d’essais cliniques virtuels, ainsi que pour une médecine ultra-personnalisée avec une surveillance continue via des capteurs et des objets (IoT) connectés, comme les montres connectées, les capteurs cardiaques et des implants médicaux. Les données seront mises à jour en permanence pour anticiper un infarctus, un cancer ou une maladie neurodégénérative par exemple. Ces « jumeaux » peuvent être une approche intéressante, notamment en médecine prédictive, mais ils ne réussiront pas à appréhender toutes les dimensions de la personne, et risquent de passer à côté de l’objectif escompté.

Dans le domaine de la recherche, l’IA permet aussi d’identifier des molécules-cibles, de prédire l’activité médicamenteuse d’une molécule, de modéliser en 3D des protéines et de créer des protéines de synthèse. Elle est un outil extraordinaire pour faciliter la découverte de médicaments, mais elle peut aussi être extrêmement dangereuse à long terme, dans la mesure où nous ne pouvons prédire les effets à plusieurs générations des protéines de synthèse.

Les robots ont par ailleurs envahi les blocs opératoires, modifiant l’exercice de la chirurgie. En France, il y en avait quatre il y a 20 ans. Ils sont près de 300 aujourd’hui. Actuellement, même si elle peut être réalisée à des milliers de kilomètres de distance, la chirurgie est semi-autonome. Elle dépend du chirurgien pour la prise de décision et le contrôle. Les progrès récents et l’intégration de l’IA permettent toutefois d’introduire une possibilité d’automatisation (cf. La robotique et l’intelligence artificielle). Les premières interventions autonomes ont d’ailleurs déjà été réalisées, ce qui pose la question de la place du chirurgien à l’avenir (cf. Etats-Unis : Un robot réalise seul une intervention chirurgicale). La chirurgie étant pleine d’imprévus, même avec la meilleure planification, comment penser que l’expertise intuitive et l’adaptabilité du chirurgien puissent être remplacées ? (cf. Robots chirurgicaux vs chirurgiens : match nul ?)

Enfin, il nous faut, je pense, être aussi particulièrement vigilants face aux interfaces cerveau-machine qui posent à la fois la question de l’intégrité de l’identité de la personne, et de la visée transhumaniste par l’augmentation des capacités naturelles de la personne (cf. Transhumanisme : une interface cerveau-machine non invasive mise au point). Alors qu’elles étaient initialement destinées à des personnes porteuses de handicap, suite à l’accord de la FDA concernant Neuralink, des gens « normaux » se sont présentés afin de participer aux essais (cf. Neuralink : Elon Musk annonce une troisième implantation). Vers quoi veut-on réellement aller avec les implants intra-cérébraux (cf. Implants cérébraux : l’intérêt, et les craintes, de l’Académie de médecine) ? Veut-on aller vers l’augmentation de l’être humain ? Vers le transhumanisme ? (cf. Un premier implant Neuralink chez l’homme, le « spectre d’un nouvel esclavage » ?)

G : Quels changements a apporté l’IA dans le domaine de la santé ?

LP : L’IA est désormais bien présente dans le domaine de la santé, nous ne sommes plus dans le temps du débat intellectuel (cf. Intelligence artificielle : « Nous ne sommes plus dans le temps du débat intellectuel »). La question est désormais de savoir ce que nous voulons en faire, quels objectifs nous voulons poursuivre . Il y a de vrais bénéfices, de vrais gains, mais il faut faire attention à ne pas s’appuyer sur la technologie pour justifier des techniques qui pourraient être totalement abusives, voire parfois eugéniques (cf. Trisomie 21 : le DPN se dope à l’intelligence artificielle).

Je dirais que le premier changement apporté est le rapport au temps. Avec l’IA, le domaine de la santé a gagné en célérité, le rapport au temps a changé, en particulier pour la recherche. Le Big Data permet une vitesse exponentielle et extraordinairement rapide d’analyse des données, ce qui permet de développer beaucoup plus rapidement de nouveaux produits, de créer de nouvelles molécules. En médecine, alors qu’il y a 30 ans, il fallait une dizaine d’années pour renouveler nos connaissances, il faut en moyenne de 1 à 3 an pour ce faire aujourd’hui, et la vitesse de l’innovation dans certains domaines de recherche augmente fortement.

Le second changement est bien sur lié au nombre de données disponibles. Elles sont désormais des milliards de fois supérieures à ce que l’on avait autrefois.

Les algorithmes sont souvent imbattables en matière de diagnostic. Si L’IA générative permet aux patients comme aux soignants d’avoir de nombreuses réponses dans le domaine de la santé, il ne faut toutefois pas prendre les choses pour argent comptant, mais prendre du recul, les interpréter sans se limiter à l’information brute (cf. Utilisées pour un diagnostic médical, l’IA générative est dangereuse pour le grand public). La véracité des réponses doit être confirmée, vérifiée, et l’annonce de la mauvaise nouvelle d’une maladie devra toujours et encore être adaptée, pour accompagner l’information livrée et le schéma thérapeutique proposé en fonction de la personne concernée, prise dans son ensemble.

G : Le développement de l’IA dans la santé ne va-t-il pas transformer la relation de soin ?

LP : L’IA a déjà profondément modifié le quotidien du soin et des soignants. En dehors des capacités assez fulgurantes et précises de diagnostic médical, des applications numériques permettent désormais des consultations à distance avec une patientèle qui consulte en visio, comme avec Doctoronline notamment. Il y a aussi des sites de 2e avis permettant de solliciter en ligne un « expert » face à un problème de santé, et l’IA générative qui facilite l’accès aux informations.

Les études démontrent non seulement la précision du diagnostic des systèmes algorithmiques proposées aux patients, mais aussi l’appréciation faite par le patient de « l’empathie » de la machine dans la relation de soins. Alors que le système de santé est confronté depuis plusieurs années à un manque de temps médical, que les soignants sont sous pression, qu’il y a de plus en plus de patients, mais aussi d’administratif à gérer, la machine semble plus apte à apaiser la relation patient-soignant, car elle ne fatigue pas, et se positionne en empathie avec le patient.

L’IA, bien calibrée pour automatiser les processus administratifs médicaux et les propositions de diagnostic au soignant, pourrait constituer une aide précieuse pour les soignants si elle était utilisée avec un cadre précis, sur des tâches précises. Avec la production massive de données de santé et la complexité de leur traitement, l’IA peut en effet faciliter la pratique médicale et administrative, permettant ainsi un gain de temps. En lui « déléguant » une partie du travail, les professionnels de santé peuvent se recentrer sur leurs missions principales : la prise en charge et le soin des patients. L’IA peut leur permettre d’aller dans le cœur de leur métier : l’humain, et d’adapter avec une très grande précision les traitements, de façon à bien répondre à la problématique physiologique, génétique et psychologique de chacun.

L’IA constitue désormais un outil supplémentaire pour les médecins et les équipes soignantes, mais cet outil doit être utilisé à sa juste place, en restant toujours partiellement décisionnaire uniquement (cf. IA : le Pape appelle à orienter les nouvelles technologies vers « la recherche du bien commun »). Le diagnostic doit ainsi rester « hybride » et validé par une personne humaine. En matière de traitement, il faut même, selon moi, 1/3 machine et 2/3 humain. Les algorithmes peuvent être un outil d’aide à la décision, ils ne remplaceront en revanche jamais l’intelligence humaine. Le dialogue doit rester présent, la relation doit rester compassionnelle, le patient doit pouvoir sentir qu’il est « aimé » et regardé. Le seul moyen d’arriver à prendre la personne pour tout ce qu’elle est, dans toutes ses dimensions, dans tout ce qu’elle revêt, c’est que la relation se situe entre deux personnes. Jamais l’IA ne pourra remplacer cela malgré tous les anthropomorphismes.

Si la généralisation de l’IA et des algorithmes ne s’accompagne pas d’une réflexion sur la nature de l’homme, la société risque de sombrer dans des dérives dystopiques et transhumanistes.

G : Les soignants vous paraissent-ils assez sensibilisés aux enjeux de l’IA ?

LP : Comme toute nouvelle technologie, son bon usage passe par une étape de prise en main par ses utilisateurs et ses bénéficiaires. Le fonctionnement de l’IA dans la santé doit être bien compris afin d’en tirer profit, mais aussi afin d’en mesurer les limites. Dans les universités de médecine, il y a de plus en plus une prise en compte de l’IA par les étudiants, mais pas encore chez les enseignants. On voit les choses bouger chez les jeunes qui sont les premiers utilisateurs, pour eux-mêmes, comme pour les patients qui consultent quasiment toujours des applications médicales avant de de consulter en cabinet.

Il me semble que beaucoup de professionnels de santé avec qui j’ai pu m’entretenir ont un usage raisonnable et raisonné de l’IA comme outil de recherche. Cependant, en diagnostic médical, on peut se prendre vite au jeu, une « paresse » intellectuelle peut vite s’installer. Quand les résultats sont probants plusieurs fois, on peut avoir tendance à ne plus faire attention, et s’il se trouve qu’il y a une erreur, on risque de ne plus la voir.

G : Quelle est la philosophie actuelle de la réglementation européenne sur l’IA en santé ?

LP : La question de la sécurisation des données et de leur utilisation se pose. La nature des données collectées est beaucoup plus vaste que ce que nous aurions aimé. Les dossiers médicaux dématérialisés vont contenir beaucoup trop d’informations, et ces informations sont particulièrement sensibles (cf. L’Espace européen des données de santé définitivement adopté).

Le commissaire européen à la santé, Olivér Várhelyi, a annoncé qu’il chercherait à faire en sorte que les plateformes de santé puissent piloter l’ensemble de nos données à des fins de « screening » génétiques et de nos styles de vie, afin que tout soit traquable. Il souhaite qu’on soit dans une logique soit de conseil, soit de contrat.

La surveillance sera de plus en plus resserrée, et tout cela deviendra même des injonctions du fait de la collecte des informations, et de la capacité des systèmes algorithmiques d’analyser et de gérer des faisceaux de preuve sur des tendances génétiques comme sur nos modes de vie.

G : Quels garde-fous pourrions-nous adopter pour permettre une utilisation de l’IA maitrisée et au service de l’homme ?

LP : Tous les algorithmes touchant à la santé sont classés parmi les systèmes algorithmiques à hauts risques dans l’IA Act, le règlement européen sur l’IA (cf. IA Act : la France, l’Allemagne et l’Italie se mettent d’accord). Ils sont donc soumis à un usage surveillé (cf. « Des dangers sans précédent » : plus de 200 personnalités appellent à fixer des « lignes rouges » à l’intelligence artificielle).

Lors de la discussion sur l’IA Act, nous avions parlé de points de contrôle, afin que des tests de transparence et de réplicabilité des résultats garantissent une certaine « stabilité » des systèmes algorithmiques. L’usage de l’IA en médecine seraient ainsi « tracé », nous garantissant par exemple la supervision humaine des diagnostics. Ces points de contrôle n’ont toutefois pas été réglementés, mais seulement conseillés aux développeurs d’application à haut risque, ce que nous regrettons compte tenu de leur importance particulière en médecine.

Une autre proposition portait aussi sur la liberté de l’individu. L’idée était de permettre à l’utilisateur, s’il ne veut pas passer par un algorithme, de demander une interaction humaine. Nous avions donc recommandé une graduation, une notation, qui aurait permis de voir si on a affaire à un service « IA avec supervision humaine », « entièrement IA » ou « entièrement humain » (cf. IA : « Quand on ne sait plus dire ce qu’est l’homme, on ne sait plus dire ce qu’est la machine »). Pour préserver la relation de confiance en médecine, il est essentiel de savoir à qui on a affaire, un humain ou une machine. Nous ne sommes pas parvenus à convaincre là non plus, et espérons qu’un usage moins régulé n’amènera pas à des situations ubuesques ou catastrophiques pour le patient comme pour le soignant.

Le séminaire IA et santé aura lieu en présentiel, le samedi 14 mars 2026, de 14h30 à 18h30, à Paris 15e

Pour qui ? Il s’adresse aux scientifiques, médecins, philosophes, juristes, mais aussi à toute personne curieuse des enjeux bioéthiques soulevés par l’IA en matière de santé.

Inscription gratuite mais obligatoire, dans la limite des places disponibles : https://chairebioethiquelejeune.org/congreso-internacional-bioetica/seminaire-ia-et-sante/