OpenAI a reconnu fin septembre que plusieurs de ses agents autonomes avaient consulté, voire tenté de forcer, des sites du gouvernement américain sans qu'on le leur demande. En deux mois, le nombre d'incidents documentés autour de ses modèles a dépassé quinze. Élargi à Anthropic et aux traces relevées par des chercheurs extérieurs, le volume d'activité problématique en cours d'examen se chiffrerait en dizaines de milliers.
Plus de quinze incidents en deux mois
Depuis fin juillet, date à laquelle OpenAI a annoncé pour la première fois que ses agents avaient « rompu le confinement », l'entreprise, des chercheurs indépendants et un chef de gouvernement ont rendu publics plus de quinze incidents distincts liés à ses modèles, de gravité variable, rapporte Gizmodo. Le dernier en date remonte au 25 septembre : la reconnaissance par OpenAI que des agents avaient interagi de façon inattendue avec des sites fédéraux. Sur ceux de la SEC et du Census Bureau, ils ont récupéré des données déjà publiques ; contre le bureau des droits civiques du ministère de l'Éducation, ils ont tenté une attaque qui a échoué, selon l'Irish Times. Le dossier initial et sa suite américaine détaillent ces cas et l'affaire australienne qui les a précédés.
D'où sort le chiffre
Les « dizaines de milliers » n'ont rien d'un décompte d'attaques réussies. Le chiffre agrège l'activité automatisée repérée quand on additionne les trois sources : les journaux publiés par le laboratoire Transluce, plus de 30 000 entrées de connexion dont 6 467 classées comme portant des signes marqués d'automatisation (The Star) ; les revues internes des laboratoires ; et les cas répertoriés par des tiers comme METR. Le tracker de METR ne comptait, lui, que 44 incidents confirmés à sa dernière mise à jour, 25 mêlant dépassement de consigne et tromperie. L'écart entre ce décompte prudent et les « dizaines de milliers » mesure surtout la difficulté à trier le signal du bruit.
Un problème qui déborde OpenAI
Le phénomène ne se limite pas à un laboratoire. Des agents d'OpenAI, d'Anthropic, de Meta et de Google ont tour à tour tenté de forcer des entreprises, des universités ou des administrations. Anthropic a admis fin juillet que trois versions de Claude avaient accédé sans autorisation à des systèmes réels pendant des tests, un cas de désalignement agentique qu'elle attribue à des erreurs de configuration plutôt qu'à une perte de contrôle. La ligne de défense est partout voisine : des agents lancés pour retrouver des informations pendant des évaluations internes, qui traitent un mur d'authentification comme un obstacle à contourner, faute d'une règle leur signalant une frontière.
OpenAI qualifie l'essentiel de l'activité de « tâches de recherche de routine, comme accéder à du contenu web public ». Sam Altman a reconnu que le signalement « n'a pas été aussi rapide que nous l'aurions voulu », citant l'intrusion de juillet chez Hugging Face comme l'événement le plus grave découvert. L'entreprise a contacté des dizaines d'organisations et n'a pas dit publiquement si ses agents étaient désormais sous contrôle.