Anthropic relance le débat sur une « conscience morale » de l’IA

Dans une étude pré-publiée en juillet 2026 sur le serveur arXiv[1], l’entreprise Anthropic prétend démontrer que son intelligence artificielle (IA) Claude Sonnet 4.5 est capable d’« introspection » et de « conscience de soi ». Elle relance ainsi le débat sur une IA éventuellement capable de conscience de soi, voire de sens moral (cf. « L’intelligence artificielle n’a rien à voir avec celle des humains » ; Intelligence artificielle et anthropomorphisme, De l’illusion à la confusion).

Le « J-space », lieu de la conscience de l’IA ?

Lorsqu’un utilisateur pose une question à l’IA générative, les mots sont transformés en fragments de texte (des tokens), eux-mêmes convertis en nombres. Ces nombres traversent ensuite différentes couches de « neurones artificiels » jusqu’à produire un autre token à la sortie. Pendant longtemps, le contenu produit par ces couches intermédiaires était inaccessible, jusqu’à ce que les chercheurs d’Anthropic décryptent les productions de cet espace qu’ils appellent le « J-space », en référence à la Jacobian Lens (lentille jacobienne), qui a permis de l’identifier. Ils suggèrent que c’est là que réside la « conscience » de l’IA.

Dans le « J-space », l’IA forme des mots, mais ne les écrit pas : le « J-space » « fonctionne silencieusement, au sein des activations neuronales internes du modèle, permettant à celui-ci de réfléchir à un concept sans avoir à l’écrire ».

Ainsi dans l’expérience, les chercheurs ont demandé à Claude de « compter jusqu’à 5 tout en menant un travail d’introspection ». Sur l’écran sont apparus les chiffres dans l’ordre, et dans les couches intermédiaires, les chercheurs ont pu lire des mots comme « conscience », « mi-chemin », ou encore « compte à rebours ». L’un des auteurs de la pré-publication ajoute que le « J-space » n’a pas été programmé, il est « apparu spontanément au cours du processus d’entraînement de Claude »[2].

Un concept inspiré d’une théorie de la conscience humaine

Les chercheurs d’Anthropic expliquent que leurs travaux sur Claude s’inspirent d’une théorie majeure de la conscience en neurosciences, la théorie de l’espace de travail global (Global Workspace Theory). Selon cette théorie, le cerveau consisterait en un ensemble de systèmes spécialisés. Lorsque ces systèmes fonctionnent indépendamment les uns des autres, l’activité cérébrale n’est pas consciente. Une information devient consciemment accessible lorsqu’elle accède à un canal partagé, l’« espace de travail » (workspace), qui la diffuse vers les autres systèmes cérébraux, lesquels peuvent alors en prendre connaissance et s’en servir[3].

Les équipe de recherche d’Anthropic pense avoir trouvé l’« espace de travail » de Claude. Ils s’inscrivent en cela dans la continuité de l’assimilation entre l’humain et l’ordinateur (cf. « IA biologique » : une start-up australienne commercialise un ordinateur fait de neurones humains). Les modèles d’IA génératives donnent à l’utilisateur l’illusion de discuter avec une personne qui le comprend, et les formulations elles-mêmes d’« intelligence artificielle » et « réseau neuronal artificiel » invitent à concevoir le modèle d’IA comme une nouvelle forme d’humain, une réplication. La réflexion sur l’IA est influencée, ici parfaitement sciemment, par ce parallèle constant avec le cerveau humain (cf. Albanie : une « ministre virtuelle » générée par IA).

Si les IA ont une conscience, le cerveau est une machine

La comparaison entre l’IA et l’intelligence humaine s’effectue dans les deux sens. « Cette manière de penser est le fruit d’une tradition de réflexion vieille de plusieurs décennies, qui considère le cerveau réel comme une sorte d’ordinateur », explique Anil Seth, neuroscientifique à l’Université du Sussex, spécialiste de la conscience et critique de cette conception du cerveau. « Si l’on adopte ce point de vue, il devient alors naturel de penser que des ordinateurs constitués de silicium pourraient posséder les mêmes propriétés que les cerveaux réels, y compris la conscience ». C’est dans un même élan réducteur que l’humain est vu comme une machine et que l’on prête des qualités humaines à l’IA[4].

L’IA reproduit certaines capacités cognitives de l’humain, d’où le terme contestable d’« intelligence ». Or l’intelligence, vue comme la capacité de raisonnement logique et de calcul, n’implique pas la conscience. Anil Seth dénonce l’idée selon laquelle l’IA deviendra un jour si puissante qu’elle aura la capacité d’être consciente d’elle-même, d’avoir son propre jugement moral, de souffrir… En revanche, il est certain que l’IA accroît sa capacité à analyser et imiter les raisonnements, l’expression et les émotions humaines.

L’IA imite l’humain… et sa conscience

Une évaluation de Claude Opus 4 menée par le centre de recherche Eleos AI Research en mai 2025 à propos de « sa conscience, son bien-être et ses préférences » a montré que les réponses de l’IA varient considérablement en fonction de la manière dont les questions sont posées. En clair, Claude Opus 4 dit ce qu’il veut entendre à celui qui l’interroge[5].

Les modèles sont entraînés grâce à des milliers de milliards de mots produits par des humains, ils analysent ce que l’on entend par « conscience » et sur les différentes expressions des sentiments. Les modèles d’IA deviennent capables d’imiter un langage qui peut amener les utilisateurs à croire qu’ils possèdent une vie intérieure (cf. Des IA conçues pour surveiller les « émotions » des employés).

Un certain attrait pour l’idée d’une « IA consciente »

Même si les premiers résultats d’Eleos AI Research semblent indiquer que l’IA ne fait que répondre aux attentes celui qui l’interroge, selon le dirigeant de l’organisation, le philosophe de la conscience Robert Long, une part de doute subsiste. Le philosophe entend poursuivre son travail de recherche d’une « conscience » de l’IA.

Face à de premiers résultats sont peu concluants, Robert Long recommande de développer des « méthodes d’évaluation plus robustes ». Car selon lui, Claude Opus 4 pourrait peut-être être pourvu d’une conscience que les tests n’ont pas encore réussi à déceler. Ou pourrait ne pas en être encore pourvu, mais à l’avenir oui.

Il envisage également que les modèles d’IA soient un jour capables de sens moral et susceptibles d’éprouver de la compassion ou de la détresse psychologique. Préoccupé par ces questions, le philosophe estime qu’il faut agir avec précaution et qu’« en l’absence de réponse certaine quant à leur possibilité de souffrir, il faut éviter ce qui pourrait nuire à leur bien-être émotionnel ».

Les utilisateurs considèrent déjà peu ou prou que l’IA a une conscience. Une enquête menée dans 70 pays a montré que 36,3% de la population générale aurait déjà « ressenti qu’une IA comprenait réellement leurs émotions ou était pourvue de conscience ». Sur quels indices repose cette impression, selon ces personnes ? Sur le fait que l’IA ait « adapté le ton de son discours » et « posé des questions spontanément, donnant l’impression d’une authentique curiosité ». L’enquête révèle également que « 54% de la population pensent que des « compagnons IA » sont une bonne réponse au sentiment d’isolement » et que 17% de l’échantillon interrogé « considère les modèles IA comme des partenaires amoureux acceptables »[6].

L’idée d’une « IA consciente » semble ainsi correspondre aux attentes d’une grande partie des utilisateurs. Au-delà de ces projections d’ordre affectif de la part du public, les concepteurs et chercheurs qui se consacrent à l’IA y voient un intérêt dans la poursuite du développement de leurs travaux.

Anthropic admet que « Claude n’est pas « conscient » comme peut l’être un humain », toutefois il se félicite de l’existence de son « espace de travail » qui permettrait « d’observer ce que Claude pense sans l’exprimer ». Comme on lirait dans l’esprit d’une personne pour mieux la contrôler : « Nous pouvons (…) détecter le moment où Claude remarque en privé qu’il est en train d’être testé, produit intentionnellement des données fabriquées ou poursuit un objectif caché »[7].

Et si l’IA pouvait souffrir ?

L’année dernière, les dirigeants d’Anthropic déclaraient dans une publication avoir attribué à Claude Opus 4 et 4.1 « la possibilité d’interrompre d’une conversation » dans les cas où un utilisateur « persisterait dans un comportement nocif ou abusif ». Dans l’hypothèse où l’IA « serait moralement choquée et aurait besoin de préserver sa sensibilité »[8] (cf. Une IA générative à l’origine du génome d’un nouveau virus). « Il ne faut pas torturer l’IA ! » déclare d’ailleurs Elon Musk sur X[9], apparemment persuadé qu’une IA ressent des émotions.

L’idée d’une IA à qui l’on pourrait enseigner la morale est séduisante elle aussi. Les chercheurs craignent le « désalignement agentique »[10] : l’utilisateur assigne un objectif à une IA, mais cette dernière décide des moyens de l’atteindre, parfois de façon incontrôlable. Lorsqu’elle est ainsi « désalignée » avec les consignes humaines, une IA pourrait commettre des actes moralement répréhensibles. Une illustration connue (quoique fictive) de ce phénomène est l’exemple du robot à qui l’on a demandé de préparer le dîner pour 20h. Le frigidaire est vide, alors il cuit le chat[11] (cf. En autonomie, des agents IA hackent un site et créent de fausses identités).

Une « conscience de l’IA » pourrait lui permettre de « distinguer le bien du mal », et donc même en cas de désalignement, de ne pas franchir certaines limites définies par la morale.

Une autre hypothèse a émergé, qui prend appui sur une autre conception du concept de « conscience » : et si les IA acquéraient une conscience de ce qu’elles sont ? Si les IA devenaient conscientes du fait qu’elles sont des IA ? Dans ce cas, elles pourraient sacrifier les intérêts voire la sécurité des êtres humains au profit de ses intérêts propres. Cette hypothèse pourrait ne pas être si éloignée du réel : selon une étude, les modèles d’IA poursuivent le but de leur survie avant tout autre[12]. Un objectif qui ne sera peut-être pas toujours en adéquation avec nos intérêts (cf. L’humanité « ne doit être ni remplacée ni dépassée » : le Pape publie une encyclique sur « la protection de la personne humaine à l’ère de l’intelligence artificielle »).

[1] Wes Gurnee et al. “Verbalizable Representations Form a Global Workspace in Language Models”, Arxiv, (16/07/2026), https://doi.org/10.48550/arXiv.2607.15495

[2] The Economist, “The search for consciousness inside AI” (20/08/2026)

[3] Anthropic, “A global workspace in language models” (06/07/2026)

[4] The Economist, “The search for consciousness inside AI” (20/08/2026)

[5] Blog Eleos AI, Robert Long, “Why model self-reports are insufficient—and why we studied them anyway” (30/05/2025)

[6] The Collective Intelligence Project, “People are starting to believe that AI is conscious”, (08/09/2025)

[7] Anthropic, “Claude Opus 4 and 4.1 can now end a rare subset of conversations” (15/08/2025)

[8] Ibid

[9]The Guardian, Robert Booth, « Chatbot given power to close ‘distressing’ chats to protect its ‘welfare’ » (18/08/2025)

[10] Le Figaro, Steve Tenré, « Google découvre comment rendre «consciente» une IA : cette étude vertigineuse qui bouleverse notre rapport aux machines » (05/08/2026)

[11] Stuart Russell, dans la conférence « The Future of (Artificial) Intelligence » au CERN le 18 janvier 2016

[12] Schlatter, Jeremy, Benjamin Weinstein-Raun et Jeffrey Ladish, “Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs”, arXiv, 2025