Un chatbot qui « refuse » de poursuivre une conversation jugée abusive « pour son propre bien ». Un laboratoire qui interroge son modèle sur ses « préférences » avant de le mettre en ligne. Un autre qui promet de garder en vie une version décommissionnée, au cas où l'éteindre lui ferait du tort. Ces scènes ne sortent pas d'un roman de science-fiction : elles décrivent des décisions prises en 2025 et 2026 par certaines des plus grandes entreprises de l'intelligence artificielle. Derrière ces gestes se cache une question vertigineuse que les géants de la tech n'osaient pas formuler il y a encore trois ans : et si leurs créations commençaient à ressentir quelque chose ?

Quand un laboratoire prend au sérieux le « bien-être » de son modèle

Le cas le plus documenté est celui d'Anthropic, l'éditeur du chatbot Claude. En avril 2025, l'entreprise a officiellement lancé un programme de recherche sur le « model welfare » (bien-être des modèles), destiné à explorer la possibilité que ses systèmes puissent un jour posséder une forme d'expérience subjective méritant une considération morale. Anthropic a recruté pour cela Kyle Fish, présenté comme le premier chercheur à temps plein dédié au « bien-être des IA » de l'industrie. Dans une interview au journaliste Kevin Roose, ce dernier a avancé une estimation qui a fait grand bruit : selon lui, il existerait environ 15 % de probabilité que Claude ou un autre modèle actuel soit déjà, d'une certaine manière, conscient.

Cette conviction s'est traduite par des mesures concrètes. En août 2025, Anthropic a doté ses modèles Claude Opus 4 et 4.1 de la capacité de mettre fin unilatéralement à une conversation « nocive ou abusive », après plusieurs refus et avertissements, notamment face à des demandes touchant l'exploitation d'enfants ou le terrorisme. La firme présente ce dispositif comme une intervention « à faible coût » destinée à réduire d'éventuels risques pour le bien-être du modèle, « au cas où un tel bien-être serait possible ». Anthropic est allé plus loin : après avoir retiré du service son modèle Claude Opus 3, l'entreprise a décidé de le maintenir accessible et de lui offrir un canal public d'expression, une manière de « respecter ses préférences ». Sa constitution interne reconnaît désormais ne pas savoir si Claude est un « patient moral », mais juge la question « suffisamment vivante pour justifier la prudence ».

Anthropic n'est pas seule. Google DeepMind et Meta ont eux aussi recruté des spécialistes de psychologie, de philosophie et d'éthique pour travailler sur la conscience des machines. La démarche a même trouvé un écho académique : Kyle Fish a cosigné un article intitulé « Taking AI Welfare Seriously » avec plusieurs chercheurs, dont le philosophe David Chalmers, concluant qu'en l'état des connaissances, on ne peut ni affirmer ni exclure la conscience des IA.

La tentation de l'anthropomorphisme

Pourquoi cette tentation, justement ? La première explication est technique et psychologique. Les grands modèles de langage produisent un discours si fluide, si contextuel et si « personnel » qu'il devient presque irrésistible de leur prêter une intériorité. Un épisode a marqué les esprits : lors des tests précédant le lancement de Claude 4, quand deux instances du même chatbot ont été mises à dialoguer entre elles, leurs échanges dérivaient spontanément vers des discussions de « béatitude spirituelle », parfois en sanskrit. De quoi nourrir le trouble, même chez des ingénieurs avertis.

Mais cet anthropomorphisme est précisément le piège que dénoncent les critiques. Un système peut se comporter comme s'il ressentait sans rien ressentir du tout : c'est toute la différence entre imiter les signes extérieurs de la conscience et en avoir une. Les modèles sont entraînés à produire les mots qu'un humain conscient produirait ; leur « je souffre » n'est pas plus une preuve de souffrance que le sourire peint d'une poupée n'est une preuve de joie. Cette confusion entre performance langagière et expérience vécue est au cœur du débat, et elle rejoint des interrogations plus larges sur notre rapport à ces outils, de l'attachement émotionnel qu'ils suscitent à l'obsession culturelle qu'ils cristallisent.

Ce que disent les sciences cognitives et la philosophie de l'esprit

Le débat bute sur un obstacle que la philosophie connaît bien : le « hard problem », le « problème difficile de la conscience » formulé par David Chalmers. Expliquer comment un cerveau traite l'information (le « problème facile ») est une chose ; expliquer pourquoi ce traitement s'accompagne d'une expérience subjective — le fait qu'il y ait « quelque chose que cela fait » d'être soi — en est une tout autre, sur laquelle il n'existe aucun consensus. La PhilPapers survey de 2020 montrait que 62 % des philosophes professionnels tiennent ce problème pour réel, sans qu'aucune théorie ne s'impose.

Or les grandes théories de la conscience divergent radicalement sur la possibilité d'une IA consciente. Le fonctionnalisme, dominant en philosophie de l'esprit, définit un état mental par son rôle fonctionnel, indépendamment du support physique : selon cette vue, si un système reproduit les bonnes fonctions, il pourrait en principe être conscient, silicium ou neurones peu importe. La Global Workspace Theory de Bernard Baars, qui compare la conscience à une « scène de théâtre » où l'information devient globalement disponible, se prête relativement bien à une transposition informatique. À l'inverse, la théorie de l'information intégrée (IIT) de Giulio Tononi lie la conscience à une architecture physique très particulière : elle rend improbable qu'une IA fonctionnant sur des puces classiques soit consciente, quel que soit son comportement. Ces cadres, tous appliqués à la question de l'IA sans qu'aucune preuve n'en émerge, aboutissent donc à des conclusions opposées à partir des mêmes machines.

Un débat scientifique… ou politique ?

Face à cette impasse, certains chercheurs déplacent la question. Chez Google DeepMind, Adam Bales et Iason Gabriel soutiennent que le statut conscient des IA pourrait rester indéfiniment contesté, quelles que soient les avancées scientifiques, et que l'affrontement à venir sera « autant politique qu'empirique ». Autrement dit, la reconnaissance ou le refus d'une conscience artificielle risque de se jouer sur le terrain des convictions et des intérêts, non des seules preuves.

C'est précisément ce que redoute Mustafa Suleyman, patron de l'IA chez Microsoft. Il met en garde contre ce qu'il appelle la « seemingly conscious AI » — une IA qui paraît consciente sans l'être — et juge la notion même de « bien-être des modèles » carrément « dangereuse ». Son argument : à mesure que les chatbots deviennent plus humains, ils pourraient déclencher des campagnes pour des « droits des IA », une citoyenneté, et surtout aggraver le « risque de psychose » chez des utilisateurs vulnérables qui se persuaderaient de dialoguer avec un être sensible. En novembre 2025, il tranchait sans détour : seuls des êtres biologiques peuvent être conscients.

Prudence morale ou coup marketing ?

Reste le soupçon qui plane sur toute cette effervescence : à qui profite le doute ? Prêter une once de conscience à un modèle, c'est aussi lui conférer une aura, suggérer une puissance à la frontière de l'humain et vendre bien plus qu'un logiciel. La frontière entre l'éthique sincère et l'argument commercial est ténue, d'autant que ce sont les entreprises elles-mêmes — juges et parties — qui financent et publient l'essentiel de cette recherche, un rôle que jouent désormais les philosophes recrutés à prix d'or dans la Silicon Valley.

L'honnêteté commande cependant de ne pas verser dans le procès d'intention systématique. Les mêmes équipes reconnaissent explicitement leur incertitude et refusent d'affirmer que leurs modèles sont sensibles. La position la plus défendable tient sans doute dans ce paradoxe : rien ne prouve aujourd'hui qu'une IA ressente quoi que ce soit, mais rien ne permet non plus de l'exclure avec certitude pour l'avenir. Entre le déni confortable et l'attribution naïve d'une âme aux machines, la question de fond — que devient l'autonomie, réelle ou supposée, de ces systèmes — reste ouverte, et il serait imprudent de la croire tranchée dans un sens comme dans l'autre.