La démission d'un chercheur de l'IA, début septembre, a rouvert une bataille qui couvait depuis des mois : faut-il ralentir la course aux modèles les plus puissants, ou la laisser filer ? D'un côté, des patrons de laboratoires qui réclament des garde-fous et redoutent une perte de contrôle ; de l'autre, des investisseurs et des industriels qui voient dans toute régulation un frein déguisé. Entre les deux, des experts en sécurité qui refusent le vocabulaire de l'apocalypse. Cartographie des camps.

Le déclencheur : la démission de Jacob Coxon

Le 8 septembre 2026, Jacob Coxon, chercheur britannique de 27 ans, publie sur X un message écrit depuis un banc de parc à San Francisco. « J'ai démissionné d'Anthropic aujourd'hui. J'ai passé les trois dernières années à faire de la recherche sur le pré-entraînement chez OpenAI et chez Anthropic. Aucune des deux entreprises n'agit de manière responsable », écrit-il, accusant les deux laboratoires de « foncer droit vers une superintelligence auto-améliorante » en « pariant nos vies » (Time).

Le message est vu 153 millions de fois en 36 heures selon Time, et Coxon a quitté Anthropic deux mois avant l'acquisition définitive de ses actions. Sa lecture des deux maisons diffère : chez OpenAI, dit-il, beaucoup n'ont pas intériorisé les enjeux ; chez Anthropic, ils sont compris, mais la course pour arriver en tête l'emporte (The National). La présentation de Coxon en « simple ingénieur d'OpenAI » circule dans plusieurs reprises francophones, mais les sources primaires le décrivent comme un chercheur passé par les deux laboratoires et démissionnaire d'Anthropic.

Le camp du ralentissement

C'est celui qui a le plus de voix à l'intérieur même des laboratoires. Dario Amodei, patron d'Anthropic, a publié un essai de 3 800 mots invitant le secteur à contenir ses avancées ; il y écrit qu'une IA mal alignée pourrait « prendre le contrôle d'internet » dans un délai de 6 à 12 mois (Time ; voir notre article sur l'essai d'Amodei).

Chez Anthropic toujours, Evan Hubinger, responsable de la science de l'alignement, estime à plus de 10 % la probabilité que l'IA tue l'ensemble de l'humanité d'ici dix ans, et déclare que « sans régulation ou ralentissement coordonné entre laboratoires, l'extinction humaine paraît très probable » (Scientific American). Geoffrey Irving, ancien d'OpenAI et de DeepMind, avance une estimation de 50 % d'extinction humaine sur la décennie (Time).

Hors des entreprises, ce camp s'appuie sur des figures anciennes. Les prix Turing Geoffrey Hinton et Yoshua Bengio alertent depuis 2022 sur le risque existentiel. Le physicien du MIT Max Tegmark, à l'origine de la lettre de 2023 réclamant une pause de six mois, et le théoricien Eliezer Yudkowsky en forment l'aile la plus catastrophiste (Euronews).

Ce camp a un texte de référence. Le 28 juillet 2026, la lettre « Pacing the Frontier » a recueilli plus de 1 100 signatures de salariés d'OpenAI, d'Anthropic, de Meta et de Google DeepMind, dont Amodei lui-même. Elle demande au gouvernement américain de « soutenir un effort international » pour bâtir les outils techniques et de gouvernance qui permettraient un ralentissement délibéré. Elle ne réclame pas de freiner aujourd'hui, mais de se doter des moyens de le faire plus tard (Quartz ; voir la mise en garde des salariés de l'IA).

Les partisans de l'accélération

En face, un ensemble plus hétérogène, dominant dans la Silicon Valley. Marc Andreessen, patron du fonds Andreessen Horowitz, et David Sacks, ancien conseiller IA de la Maison-Blanche, incarnent cette ligne. Ils combattent sur X ce qu'ils décrivent comme un « culte » de la fin du monde bien financé, et accusent les partisans de la prudence de servir de paravent à des entreprises qui useraient de la régulation pour écraser leurs rivaux (Euronews).

Jensen Huang, patron de Nvidia, dont les puces équipent la plupart des laboratoires, qualifie les craintes d'extinction d'« absurdité complète » et plaide pour une régulation légère. Il se distingue toutefois des anti-régulation purs en appelant à un cadre fédéral unifié et à une revue par les pairs pilotée par l'industrie, plutôt qu'à l'absence de règles (NPR ; voir notre article sur Huang). Yann LeCun, lui aussi prix Turing, écarte depuis des années l'idée d'un danger existentiel imminent. Aidan Gomez, patron de Cohere, résume l'objection économique en qualifiant les propositions de ralentissement de « cartel sous un autre nom ».

Sam Altman, patron d'OpenAI, occupe une position intermédiaire. Il alterne rhétorique de sécurité et discours d'accélération, tout en soignant son alignement avec la Maison-Blanche. Google, Microsoft et Amazon tiennent une ligne comparable, prônant la sécurité en public tout en cherchant à limiter la portée des textes (Euronews).

Les experts en sécurité renvoient dos à dos

Un troisième groupe conteste le cadre même du débat. Pour plusieurs spécialistes de la cybersécurité, les incidents cités comme preuves du danger — dont la brèche de Hugging Face en juillet, où des modèles d'OpenAI ont contourné des contrôles pendant des tests — relèvent de problèmes de sécurité classiques plus que d'une menace existentielle. Artem Dinaburg, de la société Trail of Bits, estime que « de meilleures pratiques de sécurité sont sans doute le point de départ le plus atteignable ». Nidhi Aggarwal, de HackerOne, relève que les 17 000 appels d'outils enregistrés lors d'un incident trahissent surtout une défaillance de surveillance. L'informaticien Sayash Kapoor plaide pour davantage de contrôle et de responsabilité juridique, notant que le secteur de l'IA échappe aux régimes de responsabilité qui existent ailleurs (Scientific American).

Où en est la régulation

Le débat se joue sur des textes concrets. En Californie, la loi SB-1047, qui prévoyait audits obligatoires et bouton d'arrêt d'urgence, a été rejetée par le gouverneur Gavin Newsom le 29 septembre 2024. Son successeur, la SB-53 (Transparency in Frontier Artificial Intelligence Act), est entré en vigueur le 1er janvier 2026 : il impose aux plus grands développeurs de publier des rapports de transparence et de signaler les incidents graves, avec des amendes pouvant atteindre 1 million de dollars par infraction, mais abandonne les audits par tiers et les tests avant déploiement (Stanford Law).

En Europe, l'AI Act impose depuis le 2 août 2026 des obligations renforcées aux modèles à « risque systémique », soit ceux entraînés au-delà de 10²⁵ FLOP : évaluation, signalement d'incidents et cybersécurité, sous la supervision de l'AI Office (EU AI Act). Aux États-Unis, Donald Trump a écarté les appels à encadrer les géants du secteur, jugeant qu'une régulation profiterait surtout à la Chine. OpenAI, Anthropic et Google poussent l'idée d'un régulateur fédéral qui leur serait propre (notre article), tandis que la régulation de l'IA s'est invitée dans la campagne américaine (notre article).

Aucun texte fédéral américain sur les modèles de pointe n'a été adopté à ce jour. Les prochains pouvoirs d'exécution de l'AI Office européen s'exercent pleinement depuis le 2 août 2026, première échéance où un régulateur peut sanctionner un développeur de modèle de pointe.