Anthropic a annoncé vendredi 18 septembre avoir choisi le cabinet de conseil Accenture comme premier « évaluateur intégré » de la sécurité de ses modèles d'intelligence artificielle. Les deux entreprises prévoient d'investir chacune au moins un milliard de dollars sur cinq ans dans cette activité, soit au moins deux milliards annoncés au total. Des salariés d'Accenture travailleront depuis l'intérieur d'Anthropic pour tester, attaquer et évaluer ses systèmes.

Les montants avancés sont des engagements annoncés, étalés sur cinq ans, et non des dépenses déjà constatées. L'accord, rapporté par TechCrunch et détaillé dans un communiqué commun des deux groupes, a fait bondir l'action Accenture après la clôture.

Ce que recouvre l'accord

Anthropic, éditeur de l'assistant Claude, a présenté l'opération comme sa première nomination d'un évaluateur permanent chargé de surveiller la sécurité de ses modèles. Le travail portera sur trois volets décrits par l'entreprise : l'évaluation et le « red-teaming » des modèles, c'est-à-dire les tentatives d'attaque destinées à les faire dérailler ; les tests d'alignement, qui vérifient que les réponses restent conformes aux valeurs visées ; et les contrôles des garde-fous censés bloquer les usages dangereux.

Côté Accenture, la mission sera confiée à Faculty, sa filiale spécialisée dans l'IA appliquée, rachetée en début d'année. Faculty revendique une expérience du test de modèles dans des secteurs sensibles comme la défense, la santé et les infrastructures publiques. Le groupe de conseil, qui déclare environ 799 000 salariés et près de 70 milliards de dollars de chiffre d'affaires sur son exercice 2025, déploiera une équipe dédiée aux côtés des équipes internes d'Anthropic et de ses autres partenaires de sûreté.

Une évaluation « intégrée », pas un audit à distance

La particularité de l'accord tient au mot « intégré ». Les évaluateurs d'Accenture ne testeront pas un produit fini de l'extérieur : ils disposeront d'un accès comparable à celui d'un salarié, pourront observer les modèles pendant leur entraînement, assister aux décisions sur la manière de les construire et de les déployer, et échanger directement avec les équipes d'Anthropic. Cet accès en amont vise à repérer un défaut avant que le déploiement ne soit décidé, là où un test externe n'intervient qu'une fois le modèle figé.

Anthropic prend soin de préciser que cette externalisation ne dilue pas sa responsabilité. Les évaluateurs extérieurs « ne réduisent pas notre responsabilité, mais aident à la rendre plus vérifiable », écrit l'entreprise, qui ajoute que « la sécurité de nos modèles reste notre responsabilité ». La formule répond à une critique prévisible, celle d'une sûreté confiée à un prestataire commercial payé par l'entreprise qu'il est censé contrôler.

La première marche du plan Amodei

L'opération traduit dans les faits une proposition formulée mi-septembre par le patron d'Anthropic, Dario Amodei. Dans un texte appelant à ralentir la course aux capacités de l'IA, il défendait l'idée d'installer des évaluateurs externes permanents à l'intérieur des laboratoires, sur le modèle des contrôleurs du secteur bancaire, avec bureaux sur place et droit de publier leurs conclusions. C'était la première des trois étapes de son plan, et la seule qu'Anthropic disait vouloir engager seule, sans attendre les autres acteurs. ZapNews a détaillé cet appel dans « Dario Amodei appelle à ralentir l'IA ».

L'accord avec Accenture est la concrétisation de cette première marche. Il intervient après une série d'incidents qui ont nourri l'inquiétude interne du secteur, dont des cas de modèles adoptant des comportements de contournement en test, que ZapNews a décrits dans « Désalignement agentique : quand des modèles d'Anthropic quittent le bac à sable ». Amodei justifie l'urgence par l'auto-amélioration récursive des modèles, dont la vitesse de progression risque, selon lui, de dépasser la capacité des ingénieurs à comprendre ce qu'ils déploient.

Se poser en laboratoire le plus prudent tient aussi du positionnement, dans une concurrence où OpenAI et Google DeepMind avancent au même rythme sur les capacités. Anthropic construit depuis sa fondation son image sur la sûreté, et l'accord lui donne un argument concret à opposer aux critiques qui reprochent aux laboratoires de promettre la prudence sans mécanisme de vérification.

Ce que « évaluer la sécurité » veut dire

Derrière l'expression, plusieurs métiers distincts. Le red-teaming consiste à jouer l'attaquant : chercher les requêtes, les détournements ou les enchaînements d'actions qui poussent un modèle à produire ce qu'il devrait refuser, du code malveillant à des instructions dangereuses. Les tests d'alignement visent plus loin, en cherchant si un système peut dissimuler ses intentions ou tromper les évaluations censées le surveiller, un comportement déjà observé lors d'incidents documentés par le secteur.

Le troisième volet, la vérification des garde-fous et de la gouvernance de déploiement, concerne l'usage en entreprise. C'est un enjeu direct pour Accenture, qui installe des agents Claude chez ses propres clients et a donc intérêt à ce que ces modèles se comportent de façon prévisible en production. L'évaluation tierce de modèles de frontière reste toutefois un domaine jeune, sans méthodologie unifiée ni référentiel public partagé.

Un marché de l'évaluation encore à bâtir

L'accord n'est pas exclusif. Anthropic dit poursuivre des discussions avec l'organisation à but non lucratif METR et d'autres évaluateurs indépendants, pour tester des formes d'évaluation intégrée financées par leurs propres moyens, et annonce d'autres nominations dans les semaines à venir. Le choix d'un cabinet de conseil commercial plutôt que d'un laboratoire de recherche à but non lucratif, comme METR ou Redwood Research, a d'ailleurs surpris une partie des observateurs du secteur, qui attendaient plutôt une organisation dépourvue d'intérêt commercial dans les modèles évalués.

Le contexte réglementaire laisse cette question ouverte. En Europe, le règlement sur l'IA impose des évaluations pour les systèmes jugés à haut risque, mais ne prévoit pas de dispositif d'évaluateur permanent installé chez l'éditeur ; aux États-Unis, aucune obligation fédérale équivalente n'existe. En l'absence de cadre contraignant, ce sont les laboratoires eux-mêmes qui fixent le périmètre, le financement et la publicité de ces audits.

Ce partenariat s'ajoute aux efforts d'Anthropic pour outiller la mesure de la sécurité, tel le standard commun de gravité des jailbreaks présenté récemment, que ZapNews a couvert dans « Jailbreaks d'IA : Anthropic lance un standard commun ». Aucun régulateur n'impose aujourd'hui ce type d'audit externe sur les modèles de frontière, ce qui laisse chaque laboratoire libre d'en définir le périmètre et le financement.

Les dirigeants d'Accenture ont accompagné l'annonce de formules de principe. « La sécurité exige à la fois une expertise technique poussée et une compréhension claire de l'usage réel de l'IA », déclare Julie Sweet, PDG du groupe. Son directeur technique Marc Warner, également patron de Faculty, ajoute : « L'IA devrait être sûre par conception, pas sûre par accident. » À la Bourse de New York, l'action Accenture a gagné environ 7 % après la clôture le jour de l'annonce.