OpenAI a confirmé mardi 15 septembre travailler depuis plusieurs semaines avec Anthropic et Google DeepMind à la création d'un organisme commun voué à la sécurité de l'intelligence artificielle. Trois des plus grands acteurs du secteur envisagent d'écrire eux-mêmes les règles censées les encadrer, ce qui fait bondir une partie des observateurs américains.

Un « organe de standards » né d'un essai de juillet

C'est Chris Lehane, directeur des affaires publiques d'OpenAI, qui a rendu ces discussions publiques mardi, en indiquant qu'elles duraient depuis « plusieurs semaines ». Selon la presse américaine, des groupes de travail réunissant des cadres des trois entreprises, sous le rang de PDG, se retrouvent régulièrement depuis juillet.

Le projet trouve son origine dans un texte de Demis Hassabis, patron de Google DeepMind, publié en juillet sur X. Il y appelait les États-Unis à mettre sur pied un organisme de standards jouant le rôle de gardien de l'IA, sur le modèle de la Financial Industry Regulatory Authority (Finra) américaine, un régulateur privé de la finance placé sous supervision fédérale.

Le périmètre discuté porte sur la seule sécurité : vérification par des tiers embarqués dans les laboratoires, examen des modèles les plus avancés, et coordination pour ralentir le développement si des dangers apparaissent. Il fait écho à l'essai de Dario Amodei, patron d'Anthropic, publié quelques jours plus tôt, qui réclamait un effort commun du secteur pour freiner l'IA de frontière. Sam Altman, à la tête d'OpenAI, a soutenu ce texte et promis d'ouvrir ses modèles à des évaluateurs indépendants.

La crainte d'une capture réglementaire

L'annonce a immédiatement réveillé la question de la capture réglementaire. Aujourd'hui, chaque grand laboratoire écrit ses propres règles de sécurité, les interprète et certifie lui-même sa conformité. Confier ce rôle à un organe financé et composé par les entreprises surveillées ferait courir le risque d'un régulateur plus complaisant qu'une autorité publique, un reproche adressé de longue date aux organismes d'autorégulation dans d'autres industries.

Les critiques pointent aussi un effet d'éviction. OpenAI, Google et Anthropic disposent déjà des juristes, des équipes de sécurité et des relais politiques nécessaires pour absorber un processus de certification complexe. Les jeunes pousses et les développeurs de modèles ouverts, eux, partiraient avec un handicap. Des règles présentées comme protectrices pourraient ainsi verrouiller les positions des acteurs dominants.

Reste l'obstacle juridique du droit de la concurrence : une coordination entre rivaux sur les modèles peut tomber sous le coup de la législation antitrust si elle étouffe la compétition. OpenAI affirme ne pas avoir besoin d'une dérogation, quand Altman lui-même a reconnu le risque.

Le débat dépasse les laboratoires. Aux États-Unis, la régulation de l'IA est devenue un enjeu de campagne, pendant que Donald Trump et son conseiller David Sacks jugent les alertes sur la sécurité exagérées et favorables à la Chine. Le patron de Nvidia, Jensen Huang, refuse pour sa part toute nouvelle loi, résumant sa position par une formule : « la sécurité est un problème d'ingénierie, pas un problème juridique ». Le président a d'ailleurs appelé le patron de Nvidia en direct pour qualifier ces craintes de « canular ». Aucun texte ni statut n'a pour l'instant été rendu public.