La pépite française Mistral AI ferme la marche du dernier « AI Safety Index » du Future of Life Institute, publié le 7 juillet. Reléguée au fond du tableau avec les moins bien notés, la start-up conteste la méthodologie du classement, qui place Anthropic en tête devant OpenAI, Google DeepMind et Meta.
Un bulletin de notes sévère pour toute l'industrie
Publié deux fois par an, l'AI Safety Index du Future of Life Institute (FLI) — l'ONG cofondée par le physicien Max Tegmark — passe au crible la façon dont les grands laboratoires gèrent les risques de leurs systèmes. Un panel d'experts indépendants (parmi lesquels Stuart Russell, Dylan Hadfield-Menell ou Sneha Revanur) attribue une note de A+ à F sur six domaines : évaluation des risques, préjudices actuels, cadres de sécurité publiés, sûreté existentielle, gouvernance et responsabilité, et partage d'informations.
Le verdict reste médiocre pour l'ensemble du secteur : personne n'obtient de A. Anthropic conserve la première place avec un modeste C+, devant OpenAI (C), Google DeepMind et un Meta en légère progression. À l'autre extrémité, la note éliminatoire F regroupe le chinois DeepSeek, le xAI d'Elon Musk et, désormais, Mistral. Comme le relève le magazine Time, les mieux classés eux-mêmes ont récemment affaibli ou abandonné leurs engagements à suspendre le développement de leurs modèles en cas de franchissement de « lignes rouges ».
Mistral dénonce le prisme du classement
Face à ce bonnet d'âne, la start-up française conteste la méthodologie du FLI. L'index s'appuie en grande partie sur les informations publiées par les entreprises et sur l'appréciation d'un jury extérieur, un procédé qui, selon ses détracteurs, avantage les laboratoires les plus prolixes en communication sur leur sécurité et pénalise les acteurs qui documentent moins publiquement leurs pratiques.
L'argument recoupe le positionnement historique de Mistral, chantre de l'open source et des modèles à poids ouverts, qui juge que les grilles d'évaluation taillées pour les géants américains ne rendent pas justice à un modèle de développement plus transparent par nature. Le patron de la société, Arthur Mensch, a déjà reproché à la régulation européenne de risquer de freiner l'innovation du continent au profit des acteurs déjà dominants.
Le débat dépasse le seul cas de Mistral. Comment mesurer objectivement la « sécurité » d'un modèle reste une question ouverte, sur laquelle les laboratoires eux-mêmes cherchent des repères communs — à l'image de la tentative d'Anthropic de définir un standard partagé pour la gravité des jailbreaks. En attendant, le classement du FLI, largement relayé, s'impose comme un juge de paix médiatique dont les critères restent contestés par ceux qu'il classe en bas de tableau.