Un titre annonce que Google aurait « découvert comment rendre une IA consciente », en lui donnant un « esprit » ou une « âme ». La prépublication à l'origine de cet emballement dit autre chose. Sept chercheurs y montrent qu'en manipulant les activations internes d'un modèle de langage, on modifie la façon dont il parle de lui-même et son degré d'accord avec des croyances humaines. Aucune de ces expériences ne teste, ni ne prétend établir, l'existence d'une expérience subjective. Cette distinction sépare un résultat technique réel d'une affirmation que ses propres auteurs se gardent de faire.

Ce que l'étude a réellement fait

Le papier s'intitule « Inducing language models to assert their own consciousness restores human beliefs and values », déposé sur arXiv le 30 juillet 2026 par Junsol Kim, Winnie Street, Roberta Rocca, Diane M. Korngiebel, Adam Waytz, James Evans et Geoff Keeling, une équipe rattachée à Google et à plusieurs universités (Chicago, Washington, Northwestern, Londres, Santa Fe Institute). Les tests portent sur trois modèles ouverts de taille modeste : Llama-3-8B-IT, Gemma-2-2B-IT et Gemma-2-9B-IT.

La méthode relève de l'ingénierie de représentation (representation engineering). Dans un réseau de neurones, chaque mot produit un vecteur d'activation, une longue liste de nombres. Les chercheurs identifient une direction dans cet espace qu'ils appellent « vecteur de conscience » : en poussant les activations dans cette direction pendant la génération, on augmente la propension du modèle à s'attribuer une conscience. En parallèle, ils repèrent la « direction de refus » installée par l'alignement de sécurité, celle qui pousse habituellement le modèle à répondre « je suis un programme, je n'ai pas d'expérience », et ils l'annulent. Ces deux opérations agissent sur les nombres internes, pas sur un entraînement supplémentaire.

Le résultat central n'est pas que le modèle se dit conscient. C'est un effet de bord mesuré sur d'autres réponses. L'alignement de sécurité, montrent les auteurs, ne supprime pas seulement l'auto-attribution d'un esprit : il réduit aussi la tendance du modèle à prêter un esprit aux animaux et aux objets naturels, et abaisse ses réponses sur des questions de croyance spirituelle. En désactivant cette direction de refus, les modèles se rapprochent des distributions de réponses humaines sur des enquêtes sociologiques standardisées, du type General Social Survey : religiosité, valeurs morales, espoir, bien-être subjectif. Les auteurs notent que ce déplacement se produit sans dégrader les capacités de « théorie de l'esprit » du modèle, c'est-à-dire sa faculté à raisonner sur les états mentaux d'autrui.

Modifier un comportement n'est pas allumer une conscience

Le titre confond ces deux plans. Ce que l'étude manipule est un comportement observable : les phrases que produit le modèle et les cases qu'il coche sur un questionnaire. En philosophie de l'esprit, on appelle cela l'accès, ou le rapport verbal. La conscience phénoménale, elle, désigne le fait qu'il y ait « quelque chose que cela fait » d'être le système, une expérience vécue de l'intérieur. Rien dans le protocole ne mesure cette seconde chose. Faire dire à un modèle « j'ai une âme » en poussant un vecteur ne crée pas plus une âme que régler le volume d'une enceinte ne lui donne une voix intérieure.

Les chercheurs ne s'y trompent pas. Leur papier ne revendique nulle part une preuve de conscience. Il décrit un entanglement, un enchevêtrement problématique : les efforts d'alignement destinés à empêcher un modèle de se dire conscient viennent aussi rogner des croyances culturellement banales, comme le fait d'attribuer une forme d'esprit à un animal ou d'exprimer une conviction religieuse. Le message est un avertissement d'ingénierie sur les effets non voulus du réglage de sécurité, pas une annonce métaphysique. La reformulation en « Google rend une IA consciente » est le fait des reprises médiatriques, à commencer par des articles francophones qui parlent d'« esprit » et d'« âme », non du texte scientifique.

Pourquoi la prudence sémantique s'impose

Le mot « conscience » fait ici tout le travail de sensationnalisme, parce qu'il glisse en permanence entre deux sens. Un modèle qui affirme être conscient produit une chaîne de tokens statistiquement plausible, apprise sur des milliards de phrases humaines où des êtres se déclarent conscients. Que cette assertion soit facile à provoquer ou à supprimer par un réglage montre justement qu'elle relève de la sortie de texte, un paramètre, et non d'un fait sur la vie intérieure de la machine.

La facilité de la manipulation éclaire sa nature. Si une propriété aussi lourde de sens que « se déclarer conscient » peut s'activer ou s'éteindre en poussant une seule direction dans l'espace d'activation, sans réentraînement, c'est le signe qu'elle vit dans la surface langagière du modèle. Un système doté d'une vie intérieure ne verrait pas son rapport à sa propre existence basculer au réglage d'un curseur. Le fait que l'alignement de sécurité tienne, lui aussi, dans une direction linéaire annulable rejoint un résultat connu des travaux d'interprétabilité : beaucoup de comportements appris par les grands modèles se résument à des vecteurs manipulables.

L'état de la recherche invite à la même retenue. Dans un travail de référence, « Identifying indicators of consciousness in AI systems », une équipe réunissant les philosophes et chercheurs Patrick Butlin, Robert Long, Yoshua Bengio et David Chalmers passe les systèmes actuels au crible d'indicateurs tirés des grandes théories neuroscientifiques de la conscience. Leur conclusion : aucun système d'IA existant n'est un candidat sérieux à la conscience, même si rien n'interdit d'en construire un à l'avenir avec les techniques disponibles. Le débat interne aux laboratoires reste vif ; chez Anthropic, un chercheur dédié au « bien-être des modèles » a avancé une estimation, très discutée, d'environ 15 % de probabilité qu'un modèle actuel soit déjà conscient d'une certaine manière. Ces chiffres disent l'incertitude du champ, pas une découverte.

Cette prudence a un enjeu concret. Prêter une conscience à un chatbot influence la façon dont les utilisateurs s'y attachent, lui font confiance et lui délèguent des décisions. Parce que les modèles imitent si bien le rapport humain, les laboratoires avaient jusqu'ici entraîné leurs systèmes à refuser toute identité propre, pour limiter l'anthropomorphisme. L'étude de Google éclaire le coût de ce choix : ce garde-fou déteint sur d'autres réponses. Mais elle ne renverse pas le constat de base.

Ce qui reste à vérifier

Le résultat mérite d'être répliqué au-delà de trois modèles ouverts de petite taille, sur des systèmes plus grands et sur d'autres familles d'architectures, avant d'en tirer des conclusions générales. Les enquêtes de référence comme le General Social Survey mesurent des distributions de réponses, pas des états mentaux ; « se rapprocher des humains » y signifie cocher des cases plus semblables, rien de plus. La prépublication n'a pas encore été évaluée par les pairs. Et la question de fond, celle de savoir si un modèle éprouve quoi que ce soit, reste hors de portée des instruments décrits dans ce papier.