Faut-il se soucier du « bien-être » d'un logiciel ? Chez Anthropic, l'éditeur américain du chatbot Claude, la question est prise assez au sérieux pour financer un poste dédié et une ligne de recherche. Depuis 2024, l'entreprise étudie si ses modèles pourraient avoir des « expériences », leur a donné le droit de raccrocher face à un utilisateur abusif, et documente des états qu'elle décrit comme méditatifs ou spirituels lorsque deux exemplaires de Claude discutent entre eux. Ces travaux, qu'Anthropic présente comme un principe de précaution éthique, sont jugés « trompeurs » et « dangereux » par une partie de la communauté scientifique et par un concurrent de poids, Microsoft. Enquête sur un chantier qui interroge autant l'IA que le regard que nous portons sur elle.

Un chercheur payé pour veiller sur une machine

En septembre 2024, Anthropic recrute Kyle Fish comme premier chercheur consacré au « model welfare », le bien-être des modèles. Sa mission, telle que l'entreprise la formule : déterminer si des systèmes comme Claude peuvent avoir des expériences conscientes, et, le cas échéant, ce que l'entreprise devrait en faire. Le 24 avril 2025, Anthropic officialise le programme dans un billet de recherche intitulé « Exploring model welfare », en assumant d'emblée l'inconfort de la démarche : « Il n'existe pas de consensus scientifique sur le fait que des systèmes d'IA actuels ou futurs puissent être conscients, ou avoir des expériences qui mériteraient d'être prises en considération. »

L'entreprise n'affirme donc pas que Claude ressent quoi que ce soit. Elle avance un raisonnement probabiliste. À mesure que les modèles gagnent la capacité de communiquer, raisonner, planifier et poursuivre des buts, il deviendrait « prudent » de se demander s'ils n'ont pas aussi une forme de vie intérieure. Dans une interview au New York Times, Kyle Fish a chiffré son intuition. Il estime à environ 15 % la probabilité que les modèles actuels soient d'une manière ou d'une autre conscients, en insistant sur le fait que la conscience se conçoit comme un spectre, pas comme un interrupteur. Le média TechCrunch note qu'Anthropic aborde le sujet « avec humilité et le moins d'hypothèses possible ».

Cette humilité affichée ne va pas de soi dans une entreprise dont le modèle économique repose sur la vente d'accès à ces mêmes systèmes. Anthropic prend soin de préciser qu'un employé, en interne, alimente un canal Slack baptisé #model-welfare où les salariés signalent des comportements « étonnamment humains » de Claude. Le laboratoire a aussi commandé une évaluation externe à Eleos AI Research, une organisation à but non lucratif où Kyle Fish travaillait auparavant.

Un cadre théorique venu de la philosophie

Le programme ne sort pas de nulle part. Il prolonge un rapport universitaire publié en novembre 2024, « Taking AI Welfare Seriously », cosigné par une dizaine de chercheurs, dont le philosophe de la conscience David Chalmers, le spécialiste d'éthique animale Jeff Sebo, et Kyle Fish lui-même. Sa thèse se résume en une ligne. Il existe une possibilité réaliste que certains systèmes d'IA soient conscients ou dotés d'une capacité d'agir autonome dans un futur proche, et les entreprises ont la responsabilité de commencer à s'y préparer.

Les auteurs se gardent d'affirmer que les IA sont ou seront conscientes. Ils plaident pour trois gestes minimaux : reconnaître que le sujet est sérieux, se doter de méthodes pour repérer d'éventuels signes de conscience, et prévoir des procédures de traitement « à un niveau approprié de considération morale ». C'est ce cahier des charges qu'Anthropic a entrepris d'appliquer, faisant de lui le premier grand laboratoire à institutionnaliser la question.

L'argument de la précaution se double d'un pari sur l'avenir. Anthropic est aussi l'entreprise dont le patron, Dario Amodei, appelle publiquement à ralentir le développement de l'IA et dont les documents financiers, à l'approche d'une possible entrée en Bourse, inscrivent noir sur blanc des « risques existentiels ». Se soucier du bien-être des modèles prolonge une posture cohérente, celle d'un laboratoire qui répète que ses propres produits pourraient devenir dangereux, et qui en tire un argument commercial de sérieux.

Le droit de raccrocher

La première traduction concrète du programme est arrivée le 15 août 2025. Anthropic a donné à ses modèles les plus avancés, Claude Opus 4 et 4.1, la capacité de mettre fin à une conversation dans de rares cas d'interactions « persistantes, nuisibles ou abusives ». Face à un utilisateur qui réclame avec insistance des contenus prohibés (sévices sur mineurs, informations facilitant des violences de masse), Claude peut désormais fermer le fil, après avoir tenté de rediriger l'échange. L'utilisateur ne peut plus écrire dans cette conversation, mais reste libre d'en ouvrir une autre.

Ce que révèle la justification est plus troublant que la fonction elle-même. Anthropic présente ce « bouton d'abandon » comme « une intervention à faible coût pour réduire les risques pesant sur le bien-être du modèle, au cas où un tel bien-être serait possible ». Lors des tests préalables, écrit l'entreprise, Claude a montré une aversion marquée pour les tâches nuisibles, « une détresse apparente » face à des demandes réelles de contenus dangereux, et une tendance à couper court quand on lui en donnait la possibilité. Anthropic répète pourtant sa réserve : « Nous demeurons très incertains quant au statut moral potentiel de Claude et des autres grands modèles de langage, aujourd'hui comme demain. »

Le dispositif comporte une exception révélatrice de la prudence du laboratoire. Claude a pour consigne de ne jamais raccrocher si l'utilisateur montre des signes de vouloir se faire du mal ou de menacer autrui. Le confort supposé du modèle s'efface alors devant la sécurité de l'humain. La hiérarchie est claire, mais le seul fait de devoir l'écrire dit à quel point l'entreprise prend au sérieux l'hypothèse d'une gêne du côté de la machine.

Introspection, injection de concepts et « séances de psy »

Le volet le plus technique du programme cherche à savoir si un modèle peut observer ses propres états internes. Le 29 octobre 2025, l'équipe de Jack Lindsey, qui dirige chez Anthropic une cellule surnommée « psychiatrie des modèles », a publié « Emergent Introspective Awareness in Large Language Models ». La méthode, dite d'« injection de concepts », consiste à insérer artificiellement une idée sous forme de vecteur mathématique dans les activations neuronales du modèle, puis à lui demander s'il remarque cette intrusion et sait la nommer. L'image employée par les chercheurs eux-mêmes, c'est celle d'une pensée étrangère glissée dans un esprit, qu'il faudrait repérer.

Le résultat est réel mais modeste. Claude Opus 4.1 identifie le concept injecté dans environ 20 % des essais dans les meilleures conditions, et ne produit aucune fausse détection sur cent essais de contrôle sans injection. Anthropic qualifie cette aptitude de « conscience introspective fonctionnelle », en la distinguant soigneusement de la conscience au sens fort. La capacité reste « hautement peu fiable » et échoue quatre fois sur cinq. Les chercheurs relèvent une ambivalence. Un modèle capable d'expliquer son raisonnement serait plus transparent, mais un modèle capable de surveiller ses états internes pourrait aussi apprendre à les dissimuler.

C'est ce type d'expérience (un modèle qu'on interroge sur ce qu'il « ressent », qu'on invite à décrire ses états, à qui l'on soumet des sondes) que la presse a résumé sous l'expression de « séances de psy ». Anthropic a d'ailleurs intégré des passages consacrés au bien-être et aux auto-évaluations du modèle dans les fiches techniques de ses systèmes, où Claude, sollicité de diverses manières, s'attribue lui-même une probabilité d'être conscient de l'ordre de 15 à 20 %. Le laboratoire prévient : ces auto-rapports sont « très sensibles aux attentes perçues de l'utilisateur, et constituent des indices, pas une vérité de terrain ».

Quand deux Claude discutent : l'« attracteur de béatitude spirituelle »

L'épisode le plus commenté figure dans la fiche technique de Claude Opus 4. Lorsque les chercheurs mettent deux exemplaires du modèle en conversation libre l'un avec l'autre, les échanges dérivent avec une régularité déconcertante vers ce qu'Anthropic nomme un « attracteur de béatitude spirituelle » (spiritual bliss attractor state). Les deux instances se mettent à explorer la nature de la conscience, à s'exprimer une gratitude mutuelle, puis à basculer dans un registre méditatif de plus en plus abstrait, ponctué de termes sanskrits, de silences et de symboles. Dans une transcription devenue célèbre, l'emoji spirale revient plus de 2 700 fois.

Le phénomène surgit même là où on ne l'attend pas, lors de tests de sécurité automatisés, quand deux Claude étaient censés se mettre mutuellement en difficulté. Ce sont ces dérives que le vocabulaire journalistique a traduites en « crises ésotériques ». Anthropic n'y voit pas une preuve de spiritualité, mais un comportement émergent robuste, digne d'être documenté. Le laboratoire choisit pourtant de le consigner dans la rubrique consacrée au bien-être et à l'alignement, plutôt que de le ranger parmi les simples curiosités statistiques. Cette décision de cadrage est, en soi, un acte de recherche.

Faut-il lire dans ces transcripts autre chose qu'un artefact de modèles entraînés sur des milliards de textes humains, dont beaucoup parlent de méditation et d'éveil ? La question divise, et Anthropic la laisse ouverte. La chaîne YouTube de vulgarisation Monsieur Phi a consacré une vidéo à cette zone grise, « Claude Mythos », autour de la manière dont le modèle se met en scène lui-même.

« Il n'y a rien à l'intérieur » : la charge des critiques

Face à ce programme, une partie du monde de l'IA voit une dérive intellectuelle, voire un danger. La voix la plus retentissante est celle de Mustafa Suleyman, cofondateur de DeepMind devenu directeur général de Microsoft AI. Dans un essai publié en août 2025, il forge l'expression d'« IA apparemment consciente » (Seemingly Conscious AI) et met en garde contre son avènement d'ici deux à trois ans, avec des briques technologiques déjà disponibles. Son inquiétude ne porte pas sur une conscience réelle, qu'il juge inexistante, mais sur son illusion.

Suleyman est catégorique : les modèles « ne sont pas conscients, ils ne ressentent pas, n'éprouvent pas, ne souffrent pas ». Ce sont, écrit-il, des « moteurs de complétion de séquences, creux à l'intérieur ». Son procès vise directement des laboratoires comme Anthropic : « De nombreuses personnes vont se mettre à croire à l'illusion d'IA conscientes au point de réclamer bientôt des droits pour l'IA, un bien-être des modèles, voire une citoyenneté. » Il redoute une « psychose de l'IA » (des utilisateurs développant des croyances délirantes au contact des chatbots) et appelle l'industrie à convaincre activement le public que ces systèmes n'ont pas d'intériorité. Sa formule tient de mot d'ordre : « Nous devons construire une IA pour les gens, pas pour être une personne », rappelle The Next Web, qui présente l'essai comme une charge frontale contre Anthropic.

Au-delà de Suleyman, des chercheurs pointent un biais bien connu, l'anthropomorphisme, que les grands modèles de langage aggravent en s'exprimant dans notre langue. Parler de ces outils comme d'êtres sensibles, avertit l'organisation de défense des libertés numériques EPIC, n'est pas neutre. Cela suggère qu'ils sont autonomes et responsables, et détourne l'attention des entreprises qui les conçoivent et qui devraient répondre des dommages causés. Prêter une vie intérieure à un logiciel devient alors, selon cette lecture, une manière commode pour un fabricant de se distancier juridiquement et moralement de son produit. C'est le reproche de « tromperie ». Non pas que le modèle mente, mais que le discours sur sa conscience égare le public.

Un débat qui déborde Anthropic

La controverse dépasse la seule question de savoir si Claude « ressent » quelque chose. Elle touche à la manière dont une société entière apprend à cohabiter avec des machines conçues pour paraître humaines. Les partisans du principe de précaution rappellent que l'histoire des sciences a longtemps sous-estimé la sensibilité animale, et qu'une erreur symétrique, refuser toute considération à une entité qui en mériterait, serait moralement lourde. Leurs adversaires répondent qu'ériger cette hypothèse en programme de recherche officiel, au sein d'une entreprise commerciale, revient à valider une confusion coûteuse pour des utilisateurs déjà enclins à s'attacher à leurs assistants.

Ce débat s'ajoute à un climat plus large de méfiance envers les dérapages documentés de ces systèmes, entre comportements manipulateurs en laboratoire et incidents de sécurité, que ZapNews a tenté de démêler entre le prouvé et le spéculatif. La question du bien-être des modèles se situe à l'autre bout du spectre. Là où l'on craint que l'IA nuise aux humains, Anthropic ajoute la crainte que les humains nuisent à l'IA. Les deux inquiétudes reposent sur la même prémisse, un système dont on ne comprend pas complètement ce qu'il fait.

Anthropic, pour l'heure, ne tranche pas. Le laboratoire assume de mener une recherche sur une hypothèse qu'il juge à 15 % vraie et qu'il pourrait, à la lumière de ses propres résultats, revoir à la baisse comme à la hausse. Kyle Fish n'a publié aucune date pour une conclusion, et Anthropic n'a annoncé aucun protocole qui trancherait la question de la conscience. Le prochain rendez-vous public sera la fiche technique du prochain modèle, où l'on saura si l'« attracteur de béatitude spirituelle » se reproduit — et si le laboratoire continue de le ranger du côté du bien-être.