Intelligence artificielle : la conquête d’un marché du corps humain


Algorithmes, supers ordinateurs, applications mobiles,… l’intelligence artificielle se perd dans une nébuleuse dont les contours échappent. Anne-Laure Boch, neurochirurgien, médecin des Hôpitaux de Paris, docteur en philosophie, évoque les risques inhérents à l’envahissement de la technique dans le quotidien de la santé.

 

Gènethique : On parle beaucoup d’objets intelligents pour les objets connectés, est-ce qu’on parle d’un progrès ?

Anne-Laure Boch : La plupart de ces objets sont au mieux commodes, mais ils sont loin d’être intelligents ! En quoi un capteur de fréquence cardiaque est-il « intelligent » ? Certes, il peut être relié directement à un pacemaker, ce qui permet un contrôle plus fin des paramètres de ce dernier. Le pacemaker peut aussi être piloté à distance par un centre de cardiologie dématérialisé. Ce peut être commode, efficace, rentable… jusqu’au jour où un pirate prendra la main sur votre pacemaker, et vous enverra un SMS réclamant le versement d’une rançon sous peine de déconnexion immédiate de l’appareil qui vous maintient en vie ! A ce moment, je ne sais pas si on trouvera ça « intelligent »…

Sans aller jusqu’à cette extrémité, notons que la réalité de notre rapport aux ordinateurs, aux robots, aux machines, c’est que ça tombe beaucoup en panne, que l’obsolescence est très rapide, que la durée de vie des technologies est très courte et leur besoin en énergie très élevé. Dans la science-fiction, les robots sont quasiment immortels. Mais dans la réalité, c’est loin d’être le cas. A quel rythme devez-vous recharger votre téléphone portable ? Et combien de temps tient votre ordinateur avant d’avoir besoin d’être upgradé voire carrément remplacé ? Quand ces techniques seront « embarquées » dans votre corps, vous ne pourrez plus plaisanter avec les mises à jour de logiciel ou de batterie que votre fabriquant vous propose d’acheter. Toute cette technologie est surtout d’une extrême fragilité. Elle met l’utilisateur dans la dépendance du marché.

 

G : Est-ce le défi de l’homme augmenté ?

ALB : Le transhumanisme se targue d’améliorer le corps humain par le biais d’implants électroniques, qui ont pour but d’augmenter les performances de l’intelligence naturelle, notamment les performances mnésiques, avec l’objectif de nous rendre plus semblables à l’intelligence artificielle. On va tirer le corps biologique du côté de la machine parce qu’on n’a pas réussi à tirer la machine du côté du biologique ; on cherche à remplacer des morceaux du vivant pour le faire ressembler à la machine, pour hisser l’intelligence humaine à hauteur de machine. Quelle régression !

 

G : Vous semblez suggérer que l’entreprise est vouée à l’échec ?

ALB : Si le but de votre vie est de faire très bien un travail mécanique, un travail de robot, l’entreprise sera peut-être un succès. Du point de vue de votre employeur qui voudrait amplifier chez vous une petite fonction très particulière, pour vous cantonner à une tâche spécifique, de ce point de vue et seulement de ce point de vue, c’est un progrès. Par exemple, l’armée va renforcer les capacités de résistance de ses soldats au combat. De là à dire que cela va améliorer l’épanouissement personnel des soldats !... Le vrai but de la vie humaine est l’épanouissement de l’individu, avec, par et pour les autres. De ce point de vue, s’en remettre au transhumanisme expose à une déception terrible. N’est-ce pas cynique de se présenter comme au service des hommes alors qu’en réalité, on veut les mettre en esclavage, en faire de petits robots dévolus à l’exécution de telle ou telle tâche ?

 

G : Pourtant, on utilise déjà des implants pour soigner avec succès certaines maladies, je pense à l’épilepsie ou à la maladie de Parkinson ?

ALB : La neurochirurgie fonctionnelle s’est développée surtout pour les mouvements anormaux, essentiellement pour la maladie de Parkinson et les tremblements qu’elle génère. En modifiant certains circuits neuronaux, on peut libérer le mouvement et réduire les tremblements, les résultats sont probants. Mais ce qui est assez troublant, c’est que tout en améliorant par ce procédé les symptômes négatifs, les tremblements, on est confronté à des effets secondaires, notamment psychologiques : des dépressions nerveuses, des désinhibitions… Cela vient du fait que la  sélection anatomique  des zones à stimuler est imparfaite. Cependant, pour ces applications, ce ne sont « que » des effets secondaires.

On pourrait envisager d’avoir comme objectif d’utiliser en effet primaire la modification de telle ou telle capacité psychologique qu’on peut estimer gênante… D’abord dans des véritables pathologies, comme la dépression, l’anorexie, la boulimie, par exemple. Mais il est probable qu’à court terme, on passe aux indications « de confort ». Par exemple, des personnes qui sont simplement un peu tristes, ou qui veulent simplement maigrir… il y a toujours un continuum entre la personne malade et la personne normale. Dans la psychiatrie, on passe assez facilement de la pathologie lourde à quelque chose qui peut être vu simplement comme une caractéristique de la personnalité : de la dépression nerveuse à la simple tristesse, il n’y a pas de solution de continuité. Le risque est d’oublier l’objectif d’épanouissement de la personne, pour se contenter de celui d’adaptation  à son environnement, notamment professionnel parce que c’est là qu’il y a le plus de contraintes : les implants deviendront–ils indispensables pour postuler à certains postes ? Dans un « meilleur des mondes », exigera-t-on que les gens se soumettent à des stimulations cérébrales qui les rendent capables de supporter l’insupportable ? Plutôt que de donner de l’intérêt au travail, on lui adapte un petit robot souriant… Les implants sont alors utilisés pour faire en sorte que notre cerveau réponde comme une machine soumise à des requêtes. On en arrive à pousser le cynisme et l’utilitarisme beaucoup trop loin.

 

G : Ces implants connectés diffusent des informations nous concernant tous azimuts. Est-ce que nous pourrons nous protéger ?

ALB : Effectivement, là, on entre dans le très dangereux. Si la source est intégrée à la personne, tout est manipulable prétendument pour le meilleur et éventuellement pour le pire. Au minimum, dans la société telle qu’elle est, le risque est celui de la marchandisation. Tous ces gadgets dont nous sommes dépendants sont coûteux. Une fois que vous les avez achetés, vous devrez faire les mises à jour, les faire réparer… Une fois implantés, vous serez à disposition du fabricant. Qu’arrivera-t-il si vous ne payez plus les traites de vos implants dernier cri ? C’est déjà le cas pour les personnes malades, vous me direz. Mais justement, elles sont malades ! Elles n’ont pas le choix ! Quand on utilise ces technologies dans des indications à la limite de la pathologie, quand on modifie la condition naturelle pour « l’augmenter », on se place surtout dans des situations de perte d’autonomie vis-à-vis du fabricant et l’implant qui était censé vous augmenter, vous a en réalité aliéné. Et pour des bénéfices relativement mineurs, on devient extrêmement fragiles.

 

G : Comment expliquez-vous cette marchandisation de nos fonctions humaines, voir du corps humain ?

ALB : La société de consommation n’a qu’un seul objectif, c’est la croissance. Et aujourd’hui, l’extérieur est très équipé : nos maisons sont pleines. Il faut donc investir de nouveaux marchés, ceux du milieu intérieur : la biologie et la médecine sont les nouvelles frontières de la société de consommation. Aujourd’hui, on ne peut plus parler de milieu naturel, tout ce qui nous enveloppe sort de l’industrie, il n’y a rien que nous n’ayons fabriqué nous-mêmes, nous sommes quasiment à saturation. Alors, l’industrie se dirige vers l’intérieur du corps. C’est déjà le cas des malades qui ont des prothèses qui les aident, mais il y a l’immense catégorie des bien-portants. Ils ne sont bien-portants que tant qu’ils se réfèrent à une norme naturelle. Une fois que cette norme aura explosé, ils deviendront des malades comme les autres ! Si on arrive à s’affranchir des normes naturelles, à créer une nouvelle norme plus « contraignante », on aura vraiment créé un nouveau marché, un marché « intérieur » compris dans les deux sens du terme : on va équiper l’homme et on va utiliser des éléments de son corps, les cellules, les organes… pour faire entrer l’ensemble dans le vaste flux de la marchandise.

 

G : Pour entrer dans ce marché intérieur, il faut pouvoir le comprendre et le copier. On parle de synthétiser l’ADN. Est-ce une bonne nouvelle ?

ALB : L’ADN synthétique est une autre grande promesse du transhumanisme… Méfiance ! Quand la chimie prétend se substituer à la biologie, puis la chimie à la biochimie, le réductionnisme est en route ! C’est l’effort analytique qui a permis à la science d’émerger à partir des XVIe et XVIIe siècles et de se transformer en technoscience. Analyser, ça veut dire découper. Chaque fonction a été étudiée séparément, mais ensuite, il est très difficile de remettre ensemble toutes ces fonctions pour en refaire la synthèse. Des petits bouts de fonctions peuvent être ponctuellement améliorés… Seront-ils alors compatibles avec l’ensemble ? Ce que Leibnitz appelait les compossibles, les possibles-ensemble, n’est pas pris en charge correctement parce que c’est trop difficile. Dans une cellule, la modification d’un composant risque d’entrainer une cascade d’effets sur d’autres systèmes, parce que tout est relié. Et il est à craindre que nous soyons  complètement débordés par les effets délétères de ce que nous aurons fabriqué. Ces recompositions sont vouées à un échec programmé ou au mieux à beaucoup d’accidents, beaucoup de souffrances et beaucoup de déceptions.

 

G : Est-ce que ce type de quête qui vise à repousser sans cesse les limites, et qui parait bien loin des centres d’intérêt du quotidien, peut avoir un impact sur les patients ?

ALB : Oui, hélas. Actuellement le langage marketing est envahissant, donnant l’illusion que ce sera tellement mieux demain. Les gens sont malheureux parce qu’ils ont l’impression d’être malades trop tôt, d’être nés trop tôt ; ils sont persuadés qu’il suffit d’attendre un tout petit peu pour vaincre la maladie et la mort… Ils se persuadent que tout ce qui peut arriver  de difficile dans une vie - la souffrance, le vieillissement, la mort… - n’est pas essentiel mais conjoncturel. Le résultat c’est qu’ils sont encore plus désarmés pour affronter la réalité des aléas de l’existence, la fatalité du destin humain qui veut que, étant nés, nous devons mourir un jour. Au fil du temps, je vois cette souffrance psychique augmenter chez nos patients qui refusent d’assumer des maladies pour lesquelles il n’existe pas de traitement à ce jour, alors que, pensent-ils, dans quelques années on pourra les soigner. Ce type de croyance empêche une certaine forme de fatalisme, qui est une façon d’accepter l’évènement douloureux de la maladie.

 

G : Ce que vous dites n’est pas forcément facile à entendre pour un malade !

ALB : Je pense que s’il est humain de vouloir aller au-delà de la maladie, il est aussi humain d’accepter notre condition. Et c’est devenu de plus en plus difficile. Rien n’est fait pour nous aider à accueillir la maladie ou le handicap. Nos insuffisances sont considérées comme à corriger en achetant le dernier gadget à la mode. Il faut toujours acheter le « truc » qui va nous sauver, nous transcender, nous rendre tellement plus intelligents, plus forts, plus durables… Dès lors qu’on s’appréhende soi-même comme une somme de fonctions, il faut sans cesse « s’upgrader » pour rester performant. Et quand ce n’est plus possible, quand malgré tout vient la déchéance physique ou psychique par rapport à un idéal entretenu à grand coup de publicité (l’idéal de l’éternelle jeunesse, par exemple), on sombre dans le désespoir et on préfère tirer le rideau. L’intolérance à la condition naturelle fait le lit de l’euthanasie.