L’intelligence humaine, une intelligence parmi d’autres ?

Olivier Rey, mathématicien et philosophe, revient sur le développement de l’intelligence artificielle. Il explique comment l’homme est pris entre la nécessité de la développer et d’y avoir recours et, d’autre part, les dangers qu’elle représente.

En 1955 John McCarthy [1], un jeune professeur de mathématiques à Dartmouth College [2], a pris l’initiative de réunir différentes personnes dont Marvin Minsky, Nathaniel Rochester et Claude Shannon, pour explorer en commun la notion de thinking machines, de « machines pensantes » – notion sur laquelle l’apparition des premiers ordinateurs appelait à réfléchir. A ce moment, l’humain demeurait la référence en matière d’intelligence. Toutefois, la conviction des membres du Dartmouth Workshop, qui s’est tenu en 1956, était que « chaque aspect de l’apprentissage ou de toute autre caractéristique de l’intelligence peut être décrit avec une telle précision qu’une machine peut le simuler [3]». C’est dans ce cadre qu’est apparu le syntagme « intelligence artificielle », pour désigner la simulation par la machine des différents aspects de l’intelligence humaine.

Aussi bien, c’est en ce sens que, quelques années plus tôt, en 1950, Alan Turing avait imaginé le test qui porte désormais son nom, destiné selon lui à décider si une machine pouvait et devait être considérée comme pensante. Sans entrer dans les détails subtils du test, il s’agit de comparer les performances d’humains avec celles de la machine dans une épreuve de simulation. On voit bien, ici, que la pierre de touche en ce qui concerne l’intelligence reste l’humain [4].

Le calcul : première faculté humaine transférée à la machine

Cependant, il va rapidement falloir faire face à un double constat : d’une part, il s’avère extrêmement difficile de reproduire l’intelligence humaine dans ses innombrables aspects ; d’autre part, pour des tâches particulières, les machines électroniques peuvent s’avérer extraordinairement supérieures aux humains.

C’est le cas, immédiatement, pour le calcul. Le calcul peut sembler aujourd’hui une tâche tout à fait rudimentaire. Il ne faudrait pas cependant oublier que le calcul a été la toute première faculté, auparavant exclusivement humaine, à pouvoir être transférée à une machine. Cela explique qu’en anglais, ce que nous appelons en français un ordinateur ait gardé son nom originel de computer, c’est-à-dire de « calculateur ». Le calcul automatisé a été le premier exemple d’intelligence artificielle.

Pourquoi le calcul ne nous semble-t-il plus relever, aujourd’hui, de l’intelligence artificielle ? On a là un exemple paradigmatique de ce que les Anglo-Saxons nomment l’AI effect – « l’effet IA » –, qui consiste en ceci : au fur et à mesure que l’intelligence artificielle se développe, les réalisations antérieures ne sont plus considérées comme relevant de l’intelligence artificielle, mais comme de la machinerie standard. Les exemples pullulent : dès qu’une tâche proposée à l’intelligence artificielle est bien maîtrisée, le dispositif qui accomplit cette tâche n’est plus considéré comme de l’intelligence artificielle. (Ainsi de la reconnaissance de caractères, de la reconnaissance d’empreintes digitales, etc.) En pratique, donc, l’intelligence artificielle désigne ce que les machines commencent juste à savoir accomplir.

Désormais, « c’est le cerveau qui est comparé à un ordinateur »

Revenons maintenant au point par lequel nous avons commencé : si on parle d’intelligence artificielle, cela a d’abord été en référence à l’intelligence humaine – au moment où des machines se sont révélées capables d’accomplir des tâches dont jusque-là seuls des intellects humains avaient été capables. Comme signalé également, la première de ces tâches a été le calcul. C’est pourquoi les calculatrices électroniques, quand elles sont apparues, ont été qualifiées de « cerveaux électroniques ». Au fil du temps cependant, et alors que les performances des machines ne cessaient d’augmenter [5], la métaphore s’est retournée : désormais, ce n’est pas l’ordinateur qui est comparé à un cerveau, c’est le cerveau qui est comparé à un ordinateur. L’être humain se trouve alors appréhendé comme une « machine de traitement de l’information » parmi d’autres.

Il fut un temps où « intelligence » signifiait « intelligence humaine » – l’adjectif qualificatif n’avait pas lieu d’être. Désormais, l’intelligence humaine est une intelligence parmi d’autres. On parle aujourd’hui d’« agent intelligent » à propos de tout « système », naturel ou artificiel, qui interagit avec son environnement, en tire des informations qu’il utilise de façon à maximiser ses chances de succès dans les buts qu’il poursuit ou qui lui sont assignés. L’amibe a son intelligence, les fourmis, les fourmilières, les humains, les nations, les entreprises etc. et, désormais, de nombreuses machines aussi. Dans ce cadre, l’intelligence artificielle se trouve complètement émancipée du modèle humain, dont elle tira naguère son nom.

Si aujourd’hui, les machines ne peuvent reproduire tous les aspects de l’intelligence humaine, en revanche, et de façon de plus en plus spectaculaire avec le traitement de données massives et l’apprentissage, des machines sont capables de réaliser des tâches dont aucune intelligence humaine n’est capable. Ces machines, tout en demeurant conçues par des humains, sont dotées de certaines capacités intellectives proprement surhumaines.

La nécessité de développer l’intelligence artificielle

Dans ces conditions, l’intelligence artificielle se présente à nous sous deux aspects principaux : d’une part, la nécessité où nous sommes de la développer et d’y avoir recours ; d’autre part, les dangers qu’elle représente.

Commençons par la nécessité. Premier point : depuis le XIXe siècle, la technologie est indispensable à la puissance. Par technologie, je désigne ici non pas la technique en général, qui est aussi vieille que l’humanité, mais cette part très récente de la technique, solidaire des sciences mathématiques de la nature qui se sont constituées en Europe à partir du XVIIe siècle, et inconcevable sans elles. C’est leur supériorité technologique qui a, un temps, permis aux Occidentaux de dominer le monde.

Second point : depuis qu’il y a des homo sapiens sur terre, c’est-à-dire environ 300 000 ans, ces homo sapiens ont vécu l’essentiel du temps dans des conditions paléolithiques. C’est dans ces conditions que nos facultés se sont développées. Il est entendu que parmi ces facultés, se trouvent d’extraordinaires capacités d’adaptation à de nouveaux environnements. Il n’empêche que depuis la révolution industrielle, le milieu dans lequel une part croissante de l’humanité est appelée à vivre a changé de manière si rapide qu’à bien des égards, nos facultés naturelles sont prises de court. C’est le cas y compris de notre intelligence. Si l’intelligence naturelle nous permettait de nous orienter correctement dans le milieu naturel, qualifié aujourd’hui de biotope, nous avons désormais besoin de l’intelligence artificielle pour nous orienter correctement dans un milieu lui-même artificiel, le technotope. Les habitants de la forêt amazonienne ont fait appel à leur intelligence pour trouver des moyens efficaces de s’orienter à l’intérieur de la jungle tropicale ; les ressortissants du monde artificialisé doivent quant à eux savoir s’orienter à l’intérieur d’une nouvelle jungle, la jungle numérique. Et pour cela, le recours à l’intelligence artificielle est indispensable. Que l’on songe, par exemple, à quel point nous serions démunis, pour user d’internet, si nous ne pouvions recourir à des moteurs de recherche, qui incorporent des formes d’intelligence artificielle.

La hantise du contrôle social

Venons-en maintenant aux dangers que le développement tous azimuts de l’intelligence artificielle nous fait courir. Je n’en mentionnerai que quelques-uns.

Dans l’esprit public, vient sans doute en tête la hantise du contrôle social, par réduction des individus à ce que révèlent d’eux les innombrables données numériques qu’engendrent désormais nos existences, et les profils que le traitement de ces données par intelligence artificielle fait émerger [6].

L’article 22 du RGPD (Règlement Général sur la Protection des Données [7]), en vigueur dans l’Union européenne, stipule : La personne concernée a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l’affectant de manière significative de façon similaire.

La digue existe, mais elle n’est pas à toute épreuve [8].

« Ce qui nous guide peut aussi nous égarer, ce qui nous informe peut aussi nous manipuler »

Autre problème : sous une apparente neutralité, la machine peut dissimuler des biais, d’autant plus pernicieux qu’ils sont difficiles à déceler. Reprenons l’exemple des moteurs de recherche : nous recevons les listes de réponses qu’ils donnent à nos requêtes telles quelles, sans savoir ce qui a présidé à l’élaboration de ces listes ; et du reste nous ne voulons pas le savoir, l’usage des moteurs de recherche perdrait tout intérêt si nous devions connaître les détails de la recherche elle-même. Mais de ce fait, nous sommes totalement soumis aux biais inclus en eux, que ces bais soient intentionnels ou non.

Ce qui nous guide peut aussi nous égarer, ce qui nous informe peut aussi nous manipuler. Ce qui vaut pour les moteurs de recherche vaut également, bien entendu, pour les agents conversationnels. Il ressort par exemple des réponses de ChatGPT à un questionnaire de positionnement politique qui lui a été soumis que cet agent conversationnel « a le profil d’un Californien libéral mainstream et pragmatique », très favorable au multiculturalisme, à l’accueil des migrants ou aux droits des minorités, et que s’il était inscrit sur les listes électorales en France, il « voterait vraisemblablement Macron, Mélenchon ou Hamon [9]».

Le risque d’un « rabougrissement de l’intelligence humaine »

J’en viens enfin à ce qui constitue selon moi le danger majeur, et que je qualifierai ainsi : un rabougrissement de l’intelligence humaine. Pourquoi un tel rabougrissement est-il à craindre ?

En premier lieu, parce qu’à parler sans cesse d’intelligence artificielle, à en faire de plus en plus usage et à nous émerveiller de ses prouesses, nous nous accoutumons à faire de l’intelligence artificielle le paradigme de l’intelligence, et à dévaluer du même coup, en regard, des caractères pourtant essentiels de l’intelligence humaine, et à ne pas les cultiver.

Nous connaissons l’adage : « Quand on a un marteau, tout ressemble à un clou. » Le danger, quand on dispose d’intelligence artificielle, est que tout se mette à ressembler à ce qui peut être traité par de l’intelligence artificielle. Il est certes possible d’objecter : nous pouvons faire en sorte d’inscrire les considérations morales parmi les critères pris en compte par l’intelligence artificielle dans son fonctionnement. Mais dans ce cas, c’est comme si la réflexion morale avait été menée une fois pour toutes, avant d’être déléguée à la machine. Or une faculté dont on ne fait pas sans cesse usage dépérit. D’où un rabougrissement moral.

Un monde qui devient opaque

Je voudrais pour terminer souligner un paradoxe. L’intelligence artificielle est un produit de la technologie, elle-même liée intrinsèquement, comme il a été dit, au développement de la science moderne, à la constitution de sciences mathématiques de la nature. Ces sciences avaient pour but premier de nous rendre le monde compréhensible.

L’ambition première, donc, est de comprendre. Le pouvoir sur le monde découle de cette compréhension, selon l’équation baconienne savoir = pouvoir. Mais qu’est-il, aujourd’hui, en train de se produire ? Le pouvoir acquis sur le monde a conduit à transformer celui-ci dans une mesure telle que le monde résultant de cette transformation nous est devenu, à certains égards, plus opaque que ne l’était l’ancienne nature. Nos facultés naturelles sont prises de court – ce pourquoi nous avons un besoin croissant de l’intelligence artificielle pour nous y repérer, et simplement y vivre. Or l’intelligence artificielle la plus intéressante est celle qui produit des résultats, non pas seulement plus vite et mieux que nous ne pourrions y parvenir sans elle, mais des résultats qui échappent à notre compréhension.

Dans le domaine scientifique, l’intelligence artificielle peut aujourd’hui conduire à des résultats dont il est impossible de savoir comment, à partir du traitement d’un nombre gigantesque de données, ils ont été obtenus. On en arrive alors à ce que certains appellent des blind methods, « méthodes aveugles », et à une agnostic science, une « science agnostique »[10]. Nous voyons alors se dessiner ce qui risque de se produire. Dans un monde trop complexe pour nos facultés naturelles, nous avons besoin d’intelligence artificielle pour prendre de bonnes décisions. De ce point de vue, l’intelligence artificielle est un outil d’aide à la décision.

Cependant, dans la mesure où la façon dont les indications qui nous sont données sont élaborées nous demeure incompréhensible, nous sommes amenés à simplement nous en remettre à ces indications – ce qui signifie, en fin de compte, que l’outil d’aide à la décision décide pour nous, plus exactement que notre décision se résorbe dans l’usage de l’outil. Il y a alors moins augmentation de nos capacités, grâce à l’outil, que délégation complète de notre pouvoir à un outil opaque, censé faire mieux que nous.

Dès lors notre intelligence, qui a permis de mettre en place ces extraordinaires dispositifs d’intelligence artificielle, est comme mise en vacances par eux ; et, à force de se trouver en vacances, elle perd l’habitude du travail, et même l’aptitude au travail. La perte de contrôle n’est pas liée, comme dans un certain nombre de dystopies, à des machines intelligentes devenant malveillantes à l’égard des humains et cherchant à les asservir ou les éliminer, mais au fait, à force de s’en remettre en permanence à elles, de devenir des incapables, des infirmes.

D’après une étude relayée par la fédération française de cardiologie, les capacités physiques moyennes des adolescents ont décru d’un quart en quarante ans. Le temps passé affalé sur un canapé, les yeux rivés à un écran, doit y être pour quelque chose. En Amérique, l’armée est obligée d’élever considérablement la masse graisseuse autorisée pour ses recrues, jusqu’à l’obésité, sous peine d’être à court d’effectif (d’autant que les antécédents d’usage de drogue réduisent significativement le nombre de candidats recevables). Sur le plan intellectuel, le QI moyen dans les pays occidentaux baisse depuis vingt ans. De nombreux facteurs doivent concourir à ce phénomène – mais parmi eux doit entrer, au moins pour une part, la délégation à des machines de tâches toujours plus nombreuses qui requéraient auparavant notre intelligence.

De Charybde en Scylla

Telle est donc, en résumé, la situation. D’un côté, Charybde : la perspective de se voir écraser par ceux qui nous auraient distancés dans la course technologique. C’est le risque externe. De l’autre côté, Scylla : la perspective d’un évidement des hommes, au fur et à mesure que la technologie atrophie les facultés naturelles en marginalisant leur exercice et en s’y substituant. C’est le risque interne.

Le transfert de l’intelligence, des hommes aux machines, est en cours – jusqu’au point où il sera difficile de trouver assez d’humains pourvus de suffisamment d’intelligence pour concevoir lesdites machines. La technologie, qui met le monde à notre disposition, n’existerait pas sans les sciences mathématiques de la nature ; mais précisément, en mettant le monde à notre disposition, elle n’entretient pas les vertus nécessaires pour faire œuvre scientifique. L’illusion de toute-puissance individuelle flattée par la technologie – le bouton que l’on pousse, l’écran que l’on caresse, le joystick que l’on manie – rend de moins en moins supportable la discipline de l’esprit que réclame la pratique scientifique.

S’il est difficile et risqué, aujourd’hui, de nous passer d’intelligence artificielle, l’intelligence artificielle ne devrait cependant pas en venir, dans quelque domaine que ce soit, à détenir un monopole radical sur la décision – sans quoi l’outil censé nous augmenter nous fait dégénérer. Beaucoup disent que dans un monde où l’intelligence artificielle est appelée à jouer un rôle de plus en plus important, il faut mettre les jeunes en contact précoce et étroit avec cette intelligence artificielle. Je suis persuadé du contraire : plus il y a d’intelligence artificielle, plus il faut en préserver les jeunes – car c’est ainsi qu’ils sauront ensuite en faire bon usage.

Il faudrait savoir développer l’intelligence artificielle et s’en servir, et continuer en même temps à savoir s’en passer. Il est un peu gênant d’en arriver à une conclusion aussi banale. J’invoquerai, pour ma défense, le philosophe Charles Sanders Peirce qui écrivait : « L’originalité est la dernière des recommandations pour les conceptions fondamentales [11]. »

NDLR : Cet article est issu d’extraits de Intelligence artificielle, intelligence humaine, intelligence spirituelle, Connaître, n° 61, juin 2024, p. 63-76. (ISSN 1251-070X). Il est publié ici avec l’accord de l’auteur.

[1] 1927-2011

[2] une université du New Hampshire, membre de la Ivy League

[3] “Every aspect of learning or any other feature of intelligence can be so precisely described that a machine can be made to simulate it.”

[4] ce qui est parfaitement logique si, dans la lignée aristotélicienne, l’intelligence est le caractère propre de l’humain

[5] avec des périodes d’accélération, et d’autres de relative stagnation – les années 1953-1973 et 1987-1993 auraient ainsi été des « hivers de l’IA »

[6] On peut se rappeler au passage que intelligence, en anglais, signifie aussi « renseignement » (comme c’est le cas avec la Central Intelligence Agency américaine) : l’intelligence artificielle est un outil extrêmement puissant pour le renseignement.

[7] en anglais General Data Protection Regulation ou GDPR

[8] En Chine, où les digues sont inexistantes, le contrôle entend s’immiscer jusque dans le fonctionnement cérébral. « Dans un article du South China Morning Post, repéré par MIT Technology Review, on découvre la dernière nouveauté en termes de surveillance des travailleurs. En Chine, des ouvriers, des militaires et des conducteurs de trains sont désormais équipés de casques ou casquettes munis de capteurs afin de mesurer le niveau de stress au travail, pour, par exemple, adapter le rythme de production. Les capteurs sans fil surveillent en permanence le rythme du cerveau et envoient les données vers des serveurs sur lesquels tournent des algorithmes d’intelligence artificielle, en mesure de détecter des pics émotionnels, comme l’anxiété, la colère, voire la dépression. » (LINC, Affective computing : des casques qui analysent le cerveau, Régis Chatellier (25/06/2018))

[9] 7 Clément Pétreault, « Woke ou réac ? Pour qui vote ChatGPT », Le Point, 27 janvier 2023. Pour une étude scientifique de ces biais, voir par exemple : Fabio Motoki, Valdemar Pinho Neto et Victor Rodrigues, « More human than human: measuring ChatGPT political bias », Public Choice, vol. 198, 2024, p. 3-23 (“we document robust evidence that ChatGPT presents a significant and sizeable political bias towards the left side of the political spectrum”)

[10] Par exemple : nous disposons d’une théorie très éprouvée qui décrit la dynamique atmosphérique à partir d’un état initial. Cela étant, prévoir si, selon les équations de la théorie, cette dynamique va donner lieu à un ouragan, de quelle intensité et sur quel parcours, requerrait, pour avoir un minimum de fiabilité, trop de données initiales et trop de calculs pour que la démarche puisse donner des résultats satisfaisants. Il est remarquable que des réseaux de neurones, alimentés en données aussi nombreuses que possibles sur les états de l’atmosphère enregistrés par le passé, se révèlent désormais capables de prévisions de meilleure qualité que celles fournies par les meilleures simulations de la dynamique atmosphérique. Et cela, sans fournir la moindre compréhension des mécanismes qui président à l’apparition et à l’évolution d’un ouragan. La question pratique reçoit une réponse, c’est tout. À l’ancienne équation savoir = pouvoir, se substitue un pouvoir sans savoir.

[11] “Originality is the last of recommendations for fundamental conceptions” (Collected Papers, 8 vol., éd. Charles Hartshorne et Paul Weiss, Cambridge (Mass.), Harvard University Press, 1960, t. 1, p. 192 (§ 368)

Photo : Pixabay