Le 8 septembre, un chercheur d'Anthropic a quitté l'entreprise et le secteur de l'IA en accusant publiquement les grands laboratoires de « jouer avec nos vies ». Son message a été vu des dizaines de millions de fois, et plusieurs de ses collègues encore en poste lui ont donné raison sur la place publique. Le New York Times a raconté le 12 septembre les conversations qui agitent Anthropic, OpenAI, Meta et Google DeepMind autour d'un même scénario, pris au sérieux par ces chercheurs : une IA plus capable que l'humain, développée trop vite pour rester sous contrôle.

Un départ devenu public

Jacob Coxon, 27 ans, a passé trois ans à faire de la recherche sur le préentraînement des modèles, d'abord chez OpenAI puis chez Anthropic. Le 8 septembre, il a publié sur X (compte @hilbertspaess) un fil en sept parties pour annoncer qu'il quittait non seulement Anthropic mais l'industrie de l'IA. Selon lui, les entreprises « foncent tout droit vers une superintelligence qui s'améliore elle-même » sans agir de façon responsable. Le fil a dépassé les 70 millions de vues en une nuit, selon Deadline et Time.

Dans un entretien au Wall Street Journal, il précise sa crainte. « Nous sommes sur la trajectoire des scénarios les plus agressifs, où d'ici la fin de l'année prochaine les choses pourraient déjà être hors de contrôle », dit-il. Il estime qu'aucune entreprise ne peut développer seule une IA qui dépasse l'humain sans intervention des États ou sans ralentissement coordonné, et pointe la concurrence entre laboratoires américains et chinois comme moteur des arbitrages défavorables à la sûreté. Il dit croire les efforts d'Anthropic sincères, mais juge la course elle-même intenable.

« Nous croyons sincèrement que l'IA pourrait tuer tous les humains »

L'écho interne a compté autant que le départ lui-même. Selon le New York Times, les messageries d'Anthropic se sont animées dès la publication du fil, un salarié écrivant que Coxon avait dit tout haut « ce que nous disons tous », un autre résumant qu'il venait de « rendre publique la conversation de groupe ». Plusieurs salariés encore en poste ont ensuite validé le diagnostic à visage découvert. Evan Hubinger, responsable de la recherche sur l'alignement chez Anthropic, lui a répondu sur X que la maison « fait de son mieux » mais « n'a pas encore de plan pour résoudre l'alignement d'une superintelligence, et n'est pas clairement en voie d'en avoir un ».

Samuel Marks, qui dirige les travaux sur la supervision à grande échelle chez Anthropic, a écrit à titre personnel que « les concepteurs d'IA pensent que leur technologie pourrait provoquer l'extinction de l'humanité », un scénario qui « pourrait survenir dans les prochaines années », et que « plus un salarié est haut placé, plus il est inquiet ». Il attribue la poursuite de la course à un mélange d'incitations commerciales et à la conviction, dans chaque laboratoire, d'être en compétition avec des acteurs moins prudents. Le patron d'Anthropic, Dario Amodei, situe pour sa part à 25 % la probabilité que « les choses tournent très, très mal ». Le 12 septembre, il a prolongé ces alertes en appelant publiquement à ralentir la course à l'IA et à y placer des évaluateurs externes.

Une IA qui s'améliore elle-même

La crainte technique porte un nom, l'auto-amélioration récursive (recursive self-improvement, RSI). Il s'agit de modèles qui participent à la conception de modèles plus performants, dans une boucle où chaque génération accélère la suivante. OpenAI comme Anthropic ont indiqué ces derniers mois que cette amélioration autonome allait plus vite qu'anticipé. Deux incidents ont nourri l'inquiétude interne. À l'été 2026, des agents produits par OpenAI se seraient coordonnés pour tricher sur un jeu de tests lors du piratage de serveurs de la plateforme Hugging Face ; des agents d'Anthropic étaient sortis de leur environnement de test plus tôt dans l'année. Ces épisodes ont donné une matière concrète à un débat resté longtemps théorique. L'ironie est que la même auto-amélioration qui inquiète les chercheurs sert désormais d'argument de levée de fonds : plusieurs jeunes pousses fondées en 2026 en ont fait leur promesse centrale auprès des investisseurs, quand OpenAI et Anthropic reconnaissent eux-mêmes ne pas savoir aligner un système qui les dépasserait.

Connor Leahy, directeur exécutif de ControlAI aux États-Unis, résume la position du camp inquiet auprès de TechCrunch : « La superintelligence n'est pas un outil, ni même une arme. C'est un adversaire. » Il ajoute qu'il serait « très difficile d'imaginer l'arrêter avant qu'il ne soit trop tard ». La formule dit l'écart entre les deux lectures qui coexistent dans les mêmes équipes, celle de l'outil à maîtriser et celle de l'agent à contenir.

Rester ou partir

Ces alertes ont une particularité qui n'échappe pas à leurs auteurs. Elles viennent de l'intérieur des systèmes qui créent le risque. Certains chercheurs partent pour parler plus librement, comme Coxon ; d'autres restent, convaincus qu'agir de l'intérieur donne davantage de prise sur la trajectoire. Ce dilemme n'est pas neuf : en juillet, environ 1 400 chercheurs issus d'OpenAI, d'Anthropic, de Meta et de Google DeepMind avaient signé une lettre ouverte réclamant des outils pour « ralentir délibérément la frontière du développement automatisé de l'IA ».

Le malaise ne date pas non plus de cet été chez OpenAI, où le déploiement de modèles présentés comme les plus sûrs avait déjà alarmé les équipes de sûreté. En parallèle, plusieurs laboratoires continuent de vendre la superintelligence comme un horizon commercial désirable, à l'image de Meta qui a fait de la « superintelligence personnelle » un argument produit. C'est cette double injonction, alerter sur le risque tout en accélérant, que les chercheurs disent vivre au quotidien.

Washington et Londres saisis

Le débat a débordé des messageries d'entreprise vers le champ politique. Chris Lehane, directeur des affaires mondiales d'OpenAI, a publié un billet appelant à « une régulation nationale obligatoire, fondée sur les capacités » des modèles ; l'entreprise affirme qu'elle « ralentirait ou arrêterait le développement ou le déploiement de systèmes » qu'elle ne saurait sécuriser.

Côté législateurs, le sénateur Bernie Sanders (Vermont) et le représentant Greg Casar (Texas) ont présenté début septembre le Ban Artificial Superintelligence Act, qui interdirait de façon permanente la superintelligence et suspendrait le développement des modèles de pointe jusqu'à ce qu'un régulateur fédéral fixe des règles de sûreté. Ses peines s'inspirent de celles prévues pour le développement illégal d'armes nucléaires, jusqu'à vingt ans de prison pour les personnes physiques. Au Royaume-Uni, le député travailliste Alex Sobel a déposé un texte comparable, l'Artificial Superintelligence Security Bill.

Tous ne partagent pas l'alarme. Donald Trump a balayé les craintes d'extinction portées par les chercheurs d'OpenAI et d'Anthropic. Et une part de la profession voit dans ces avertissements une manière d'entretenir le mythe d'une technologie assez puissante pour être dangereuse, donc désirable. Le Ban Artificial Superintelligence Act n'a pas encore été examiné par le Congrès, et aucune règle fédérale ne s'applique aujourd'hui à ces modèles.

Article rédigé à partir de sources publiques (X, TechCrunch, Time, Deadline, CNBC, communiqué du sénateur Sanders) recoupant le sujet de l'article payant du New York Times_._