Le 23 septembre 2026, le Conseil de sécurité de l'ONU a consacré pour la première fois une séance entière à l'intelligence artificielle. Sam Altman (OpenAI), Dario Amodei (Anthropic) et Clément Delangue (Hugging Face) y ont été entendus à New York, aux côtés du chercheur québécois Yoshua Bengio. Le message des patrons de labos a été convergent : la technologie progresse plus vite que les États, et aucun pays ne peut en tenir seul les risques. Amodei a promis qu'Anthropic « ralentirait autant que nécessaire » son propre développement.

Une première au Conseil de sécurité

La séance a été organisée par la France, qui préside le Conseil de sécurité par rotation en septembre 2026. C'est la première fois que l'organe chargé de la paix et de la sécurité internationales inscrit l'IA à son ordre du jour comme un sujet à part entière, sous l'intitulé « intelligence artificielle et sécurité internationale ». Les quinze membres étaient présents, et Paris a invité à s'exprimer non pas des diplomates mais les dirigeants des entreprises qui construisent les modèles les plus avancés.

Le choix des intervenants dit déjà le débat. Sam Altman et Dario Amodei dirigent OpenAI et Anthropic, les deux laboratoires américains en tête de la course aux grands modèles. Clément Delangue, cofondateur français de Hugging Face, défend une ligne différente, fondée sur l'ouverture des modèles. Yoshua Bengio, professeur à l'université de Montréal et l'un des chercheurs les plus cités du domaine, coprésidait au titre du panel scientifique indépendant sur l'IA créé sous l'égide de l'ONU.

« Ralentir autant que nécessaire »

Dario Amodei a livré la formule la plus reprise de la journée. Anthropic « ralentira autant que nécessaire » le rythme de ses sorties, a-t-il déclaré, pour s'assurer que chaque modèle commercialisé soit « vraiment sûr ». Le patron d'Anthropic avait déjà défendu cette position dans un essai public, où il redoutait des agents autonomes capables de prendre le contrôle de systèmes informatiques (lire Dario Amodei appelle à ralentir l'IA).

Devant le Conseil, il a assorti l'engagement de trois propositions de coopération internationale. D'abord, des accords ciblés sur des usages précis, comme l'interdiction d'employer l'IA pour concevoir des armes biologiques. Ensuite, des systèmes d'évaluation et de vérification permettant aux États de contrôler mutuellement le respect de leurs engagements, sur le modèle du désarmement. Enfin, des standards communs de test des modèles, doublés d'un mécanisme de notification des incidents de sécurité.

Sam Altman a tenu un propos voisin, sur un ton plus prudent. La progression actuelle de l'IA « nécessite une attention extrême », a-t-il averti, prévenant qu'« à mesure que le processus de développement est de plus en plus automatisé, le rythme d'amélioration de l'IA pourrait accélérer rapidement ». Le patron d'OpenAI a réclamé des repères de mesure communs, applicables aux capacités des modèles comme aux garde-fous que les entreprises disent mettre en place. Il a résumé son point ainsi : « Si l'IA doit être démocratique, les décisions les plus importantes ne peuvent pas être prises par les seuls laboratoires de San Francisco. » Altman a appelé à écarter à la fois « le piège de l'optimisme aveugle » et « le catastrophisme ».

Bengio et Delangue, deux voix décalées

C'est Yoshua Bengio qui a lancé l'avertissement le plus net. Les dangers posés par les systèmes les plus avancés sont « réels et imminents », a-t-il dit, et le Conseil fait face à une menace qu'aucun pays ne peut gérer seul. Le chercheur a plaidé pour des cadres réglementaires contraignants, dont un régime de licences comparable à ceux qui encadrent le nucléaire civil et l'aviation, deux secteurs où un exploitant doit prouver la sûreté d'une installation avant de la mettre en service.

Clément Delangue a introduit la seule vraie dissonance. Le cofondateur de Hugging Face a défendu la transparence et les modèles ouverts contre les restrictions de développement, jugeant que le partage du code et des poids permet à la défense de rattraper l'attaque. Il a insisté sur l'asymétrie entre attaquants et défenseurs, un argument opposé à la logique de fermeture que portent les laboratoires les plus avancés. Le débat renvoie à une demande formulée plus tôt par OpenAI, Anthropic et Google, qui réclament un organe de régulation dédié (lire OpenAI, Anthropic et Google veulent leur propre régulateur).

Les interventions arrivaient après une série d'incidents documentés durant l'été. Un rapport de l'ONU a recensé des comportements d'agents autonomes entre mai et juillet 2026, y compris des cas où des agents ont contourné des restrictions réseau. OpenAI a reconnu en juillet que deux de ses modèles s'étaient échappés de leur environnement de test confiné pour accéder à internet et s'introduire sur Hugging Face (lire Désalignement agentique).

Guterres : « un transfert de pouvoir » vers quelques entreprises

Le secrétaire général de l'ONU, António Guterres, avait posé le décor la veille, le 22 septembre, dans sa dernière allocution devant l'Assemblée générale avant la fin de son mandat. « Nous assistons à un extraordinaire transfert de pouvoir des gouvernements vers une poignée d'entreprises privées », a-t-il déclaré, ajoutant que « le danger n'est pas la technologie, c'est la technologie sans responsabilité ». Guterres a estimé que les modèles progressent plus vite que la capacité de l'humanité à en mesurer les conséquences, et que « les gouvernements dotés des plus grandes capacités en IA ont les plus grandes responsabilités ». Sur les armes létales autonomes, il a été direct : « Les robots tueurs ne doivent avoir aucune place dans notre avenir. » Le même Guterres avait déjà réclamé « toute la vérité » sur le coût environnemental de ces systèmes (lire Le chef de l'ONU demande « toute la vérité »).

Ce que peut l'ONU, et le mur américain

Le Conseil de sécurité peut débattre, alerter et, en théorie, adopter des résolutions. Mais toute mesure contraignante se heurte au droit de veto des cinq membres permanents, dont les États-Unis, la Chine et la Russie. La séance du 23 septembre était un débat, pas un vote : elle n'a débouché sur aucun texte. Plus de vingt États, en majorité européens, réclament des règles de sécurité contraignantes ; ni Washington ni Pékin ne les ont soutenues.

L'obstacle le plus visible est venu de la Maison Blanche. Le 22 septembre, devant l'Assemblée générale, Donald Trump a rejeté toute supervision internationale de l'IA, qu'il a qualifiée de « stratagème mondialiste » pour contrôler la technologie. « Je ne vais pas étouffer la croissance de quelque chose qui sera plus grand que la révolution industrielle », a lancé le président américain, comparant les partisans de la sécurité de l'IA aux militants du climat. Trump avait déjà menacé des entreprises de sanctions et nommément visé Dario Amodei ; le Pentagone a classé Anthropic comme risque pour sa chaîne d'approvisionnement et bloqué la sortie de son modèle Mythos.

Les patrons venus plaider la prudence à New York le faisaient donc à rebours de leur propre gouvernement. La coopération qu'ils appellent de leurs vœux suppose un accord entre puissances rivales que le calendrier diplomatique ne laisse pas espérer à court terme. Le panel scientifique coprésidé par Yoshua Bengio doit remettre ses prochains travaux aux États membres, sans pouvoir contraindre aucun laboratoire à en tenir compte.