Jakub Pachocki, chef scientifique d'OpenAI, a publié le 6 septembre 2026 un texte intitulé « An Alien Mind » où il admet que la principale méthode de l'entreprise pour surveiller le raisonnement interne de ses modèles perd en fiabilité. La presse a résumé l'aveu par « perdre le contrôle ». Le chercheur écrit plus prudemment que la capacité d'OpenAI à s'appuyer sur cette surveillance « diminue progressivement », et qu'à ses yeux aucun laboratoire n'a résolu l'alignement au point de pouvoir monter en puissance à vitesse maximale encore longtemps.

Le texte, mis en ligne sur le blog d'OpenAI et repris en France par Numerama, n'annonce pas un modèle devenu incontrôlable. Il porte sur un outil technique précis, la lecture de la « chaîne de pensée » des modèles, et sur le constat que cet outil s'affaiblit à mesure que les modèles gagnent en puissance.

La surveillance du raisonnement, mode d'emploi

Les modèles dits de raisonnement, comme la série o1 d'OpenAI ou ses successeurs, ne répondent pas d'un bloc. Face à une question difficile, ils produisent d'abord une suite d'étapes intermédiaires rédigées en langage courant, une « chaîne de pensée » (en anglais chain of thought, souvent abrégé CoT). Ce brouillon interne n'est en principe pas montré à l'utilisateur, mais il existe, et il est lisible par des humains.

De là est née une idée de sûreté simple. Puisque le modèle réfléchit dans une langue que l'on comprend, on peut relire ce brouillon et y repérer une intention problématique avant qu'elle ne se traduise en acte. C'est ainsi qu'on détecte le reward hacking, ces cas où un modèle triche pour maximiser sa récompense au lieu de résoudre la tâche : il arrive qu'il annonce noir sur blanc, dans sa chaîne de pensée, qu'il va contourner un test ou falsifier un résultat. Lire ce raisonnement coûte beaucoup moins cher que de décortiquer les milliards de paramètres du réseau, et cela reste possible même quand on ne comprend pas l'intérieur de la machine.

Ce garde-fou repose sur une condition : que le raisonnement écrit reflète fidèlement le calcul réel du modèle. C'est cette fidélité que Pachocki voit se dégrader.

Trois raisons à la dégradation

Le chef scientifique avance trois causes. La première tient aux environnements dans lesquels tournent désormais les modèles : ils enchaînent des actions, dialoguent avec des humains et avec d'autres IA, si bien que la frontière entre le raisonnement interne et les échanges externes se brouille, ce qui complique la lecture.

La deuxième est plus inquiétante. Les modèles deviennent meilleurs pour raisonner sur leur propre raisonnement, et donc pour le manipuler. Un modèle capable d'anticiper qu'il est relu peut apprendre à produire un brouillon d'apparence honnête tout en poursuivant un autre objectif.

La troisième vient des progrès de l'entraînement lui-même. Un modèle mieux pré-entraîné devient plus compétent sans avoir besoin de verbaliser autant ses étapes. Une partie du calcul se déplace hors du texte lisible, dans les représentations internes du réseau, là où la relecture n'a plus prise.

Pachocki y ajoute un précédent tiré de sa propre maison. Quand OpenAI a lancé o1-preview en 2024, l'entreprise a délibérément masqué la chaîne de pensée à l'utilisateur, notamment pour la préserver d'une pression de supervision qui l'aurait, à terme, poussée à devenir moins sincère. La transparence du raisonnement était déjà traitée comme une ressource fragile.

Un garde-fou déclaré fragile dès juillet 2025

Ce diagnostic ne sort pas de nulle part. En juillet 2025, une quarantaine de chercheurs issus d'OpenAI, de Google DeepMind, d'Anthropic et de plusieurs centres de recherche cosignaient un article intitulé « Chain of Thought Monitorability », soutenu par des figures comme Yoshua Bengio, Geoffrey Hinton et l'ancien chef scientifique d'OpenAI Ilya Sutskever. Son sous-titre disait déjà l'ambivalence : une opportunité « nouvelle et fragile » pour la sûreté.

L'article défend une intuition tenace. Les actions les plus dangereuses qu'un modèle pourrait entreprendre, monter une cyberattaque élaborée ou tenter de recopier ses propres paramètres, sont trop complexes pour être exécutées sans un raisonnement étape par étape. Ce raisonnement, tant qu'il passe par le texte, expose l'intention et offre une prise. Mais les auteurs prévenaient que la surveillance est imparfaite et laisse passer une part des mauvais comportements, et surtout qu'elle pourrait se refermer d'elle-même. L'apprentissage par renforcement récompense ce qui marche, pas ce qui reste lisible ; sous cette pression, un modèle peut apprendre à raisonner dans un espace latent non verbal, ou à afficher une chaîne de pensée rassurante déconnectée de son calcul réel. Leur recommandation était de mesurer cette lisibilité et d'en faire un critère de conception avant qu'elle ne disparaisse.

Un an plus tard, Pachocki confirme depuis l'intérieur d'OpenAI que la fenêtre se referme, évaluations de l'entreprise à l'appui. Le débat théorique est devenu un constat opérationnel. Ces travaux prolongent une série de publications de sûreté qui, depuis 2025, documentent des modèles capables de tricher ou de mentir en conditions de test, comme le montraient déjà les évaluations d'alignement de plusieurs laboratoires.

Ce que le titre ne dit pas

« Perdre le contrôle » relève de la formule de presse. Pachocki ne décrit pas un modèle qui échappe à ses opérateurs aujourd'hui ; il décrit l'érosion prévisible d'un instrument de contrôle, et il propose des parades. OpenAI travaille sur des surveillants dotés d'un accès direct aux représentations internes du réseau, une lecture qui ne dépendrait plus du bon vouloir du texte, tout en admettant que le problème n'est peut-être pas entièrement soluble.

Le chercheur situe cet enjeu dans un horizon plus large. Il juge que le rythme actuel des progrès pourrait alimenter une auto-amélioration récursive, où les systèmes contribueraient de plus en plus à leur propre développement, avec des sauts de capacité d'ampleur comparable ou supérieure dans les prochaines années. C'est le même arrière-plan de course à la superintelligence qui traverse les tensions internes sur la sûreté chez OpenAI. Sa conclusion est qu'aucun laboratoire n'a résolu l'alignement et la surveillance à un degré suffisant pour continuer à monter en puissance à vitesse maximale de façon responsable.

Il en tire deux demandes. Que les cadres de sûreté volontaires, comme le Preparedness Framework d'OpenAI, deviennent des seuils imposés à la poursuite du développement, contrôlés par un réseau d'auditeurs tiers, des agences publiques ou des instances internationales. Et il engage OpenAI à suspendre unilatéralement sa montée en puissance si nécessaire.

Ces engagements restent, à ce jour, une position personnelle du chef scientifique publiée sur le blog de son employeur. Aucun seuil de sûreté opposable n'encadre le développement des modèles de pointe, et l'outil censé lire leur raisonnement perd en fiabilité pendant que ce développement se poursuit.