Un chercheur de 27 ans, Jacob Coxon, a démissionné d'Anthropic le 8 septembre 2026 en accusant son ancien employeur et OpenAI de « foncer tout droit vers une superintelligence » sans savoir la contrôler. Son message, vu plus de 90 millions de fois, a été relayé par des collègues encore en poste, dont l'un chiffre à « plus de 10 % » la probabilité que l'IA provoque l'extinction de l'humanité d'ici 2030. Ces alertes internes réactivent une controverse ancienne entre chercheurs sur la nature du danger.

Un ingénieur du « pré-entraînement » claque la porte

Diplômé de mathématiques à Cambridge, Jacob Coxon a passé environ trois ans à concevoir les capacités de modèles de langage, d'abord chez OpenAI à partir de 2023 (où il a travaillé sur GPT-4o), puis chez Anthropic début 2026, selon Newsweek. Son travail portait sur le « pré-entraînement », la phase qui dote un modèle de ses aptitudes brutes.

Dans son message publié sur X, Coxon écrit : « J'ai démissionné d'Anthropic aujourd'hui. Aucune des deux entreprises n'agit de manière responsable. » Il les accuse de « foncer tout droit vers une superintelligence capable de s'améliorer elle-même » en « jouant avec nos vies ». Il résume sa décision par deux constats, rapportés par le magazine Time : « Un, il est évident que les choses s'accélèrent ; deux, elles ne sont pas sous contrôle. » Il dit redouter une boucle d'accélération dans laquelle une IA capable de résoudre des problèmes mathématiques complexes améliorerait ses propres successeurs.

Selon lui, « les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie. Ce n'est pas un coup marketing. » Sa publication a dépassé 90 millions de vues en moins de vingt-quatre heures.

Des collègues chiffrent le risque

L'alerte a été appuyée par des chercheurs encore salariés du secteur. Evan Hubinger, responsable des tests d'alignement chez Anthropic, a écrit sur X : « Nous croyons vraiment, sincèrement, que l'IA pourrait tuer tous les humains ! Personnellement, j'estime la probabilité à plus de 10 % » sur la prochaine décennie. Il ajoute qu'Anthropic n'a pas encore de méthode fiable pour garantir qu'une intelligence supérieure à celle de ses concepteurs leur obéisse, tout en jugeant faible le risque des modèles actuels.

Samuel Marks, également chercheur chez Anthropic, abonde selon Newsweek : les développeurs « croient que leur technologie pourrait causer l'extinction de l'humanité dans les prochaines années ». Alex Turner, ancien de Google DeepMind, écrit que « beaucoup de chercheurs pensent construire quelque chose qui pourrait tuer tout le monde ».

Le silence des entreprises

Interrogés par Time et Newsweek, Anthropic et OpenAI n'ont pas répondu dans l'immédiat aux demandes de commentaire. Aucune des deux sociétés n'a publiquement contesté les propos de Coxon.

Ce mutisme contraste avec la ligne de communication habituelle des deux entreprises, qui revendiquent de placer la sûreté au centre de leur travail. OpenAI, face à une précédente vague de départs, avait déclaré être « fier de son bilan en matière de systèmes d'IA parmi les plus performants et les plus sûrs ». Anthropic met en avant sa recherche interne sur les défaillances des modèles et a publié plusieurs travaux sur les comportements problématiques observés en test, comme le montrent ces modèles d'IA qui « complotent » lors des évaluations de sûreté.

Une inquiétude qui vient de l'intérieur

La sortie de Coxon prolonge une série d'alertes lancées par des employés ou anciens employés des grands laboratoires. En juin 2024, treize d'entre eux, dont onze liés à OpenAI et deux à Google DeepMind, avaient signé une lettre ouverte intitulée « Un droit d'alerter sur l'intelligence artificielle avancée » (A Right to Warn), relayée par Time. Six signataires étaient restés anonymes. Le texte, parrainé par les chercheurs Yoshua Bengio, Geoffrey Hinton et Stuart Russell, formulait quatre demandes : la fin des clauses de confidentialité empêchant les salariés de critiquer les risques, la création de canaux permettant de signaler anonymement des inquiétudes aux dirigeants ou aux régulateurs, l'instauration d'une culture de la critique ouverte et la protection des employés qui divulguent des informations sur ces dangers. Ses auteurs soutenaient que les entreprises « détiennent des informations non publiques substantielles » sur les capacités de leurs systèmes, sans être tenues de les partager.

Ces départs ont jalonné les deux dernières années. Jan Leike, alors coresponsable de la sûreté chez OpenAI, avait quitté l'entreprise en mai 2024 en jugeant que « la culture de la sécurité était passée au second plan ». Le cofondateur Ilya Sutskever était parti fonder une société baptisée Safe Superintelligence. La démission de Coxon intervient dans un contexte de course commerciale intense, à l'heure où OpenAI comme Anthropic multiplient les levées de fonds et les annonces de modèles, à l'image de l'agitation qu'avait suscitée Astra, l'IA « la plus alignée » d'OpenAI.

« Risque existentiel » contre dangers déjà là

Ces avertissements sur une possible extinction ne font pas consensus dans la recherche. Un autre courant, incarné par Timnit Gebru, Emily Bender, Margaret Mitchell et Angelina McMillan-Major, soutient que les récits catastrophistes détournent l'attention de dommages déjà mesurables : biais discriminatoires, désinformation, exploitation des travailleurs qui annotent les données et concentration du pouvoir entre quelques entreprises. Ces chercheuses sont notamment à l'origine de l'article sur les « perroquets stochastiques », critique fondatrice des grands modèles de langage. Pour ce courant, insister sur une hypothétique révolte des machines revient à laisser dans l'ombre les responsabilités présentes des entreprises qui déploient ces outils.

L'inquiétude, elle, est largement partagée par le public. Selon les données citées par Time, 83 % des Américains estiment que l'IA pourrait provoquer un accident catastrophique, et 82 % se disent méfiants à l'idée que les dirigeants de la tech s'autorégulent.

L'opposition entre ces deux lectures n'est pas tranchée. Une étude publiée en 2025 dans une revue à comité de lecture, recensée sur PubMed, conclut que les discours sur le risque existentiel ne détournent pas, empiriquement, l'attention du public des préjudices immédiats de l'IA. Le débat porte aussi sur la manière de réguler ces technologies, un chantier qui bute sur des difficultés concrètes, comme le montre la mise en œuvre de l'encadrement des LLM prévu par l'AI Act ou les classements de sûreté que contestent les éditeurs eux-mêmes.

La démission de Coxon n'a pour l'instant entraîné ni réponse officielle des deux entreprises, ni annonce de nouvelle mesure de sûreté.