Sept chercheurs de Google présentent SAFE, une équipe d'agents IA chargée d'enquêter sur les chaînes qui inondent les plateformes vidéo d'« AI slop », notamment sur YouTube. Voici comment c'est censé fonctionner.
Une enquête automatisée, pas un simple score
SAFE, pour Scaled Abuse Forensics Examiner, est décrit dans un article de recherche signé par sept employés de Google — Abhinav Mathur, Crystal Zhao, Geethik Narayana Kamineni, Longling Wang, Lucas Liu, Utkarsh Chaudhary et Vahid Jalali. Les métadonnées du PDF remontent au 28 mai 2026, et le document a été repéré par Search Engine Journal le 25 septembre.
Le système cherche à imiter le raisonnement d'un analyste humain au lieu de cracher un score de probabilité, écrivent les auteurs. Il repose sur quatre agents spécialisés. Un Root Agent reçoit un groupe de chaînes suspectes, répartit le travail et agrège les verdicts. Un Content Understanding Agent sépare le contenu généré soigné du slop de masse, avec des modèles de langage adaptés par la technique LoRA. Un Behavior Understanding Agent lit l'« empreinte spatiotemporelle » des chaînes : numéros de systèmes autonomes, empreintes d'appareils, rafales de publication qui s'écartent d'un rythme humain. Un Channel Cluster Understanding Agent cartographie enfin les liens entre chaînes pour viser le réseau entier, pas la vidéo isolée.
« Juger l'opération, pas l'upload »
L'article vise ce que Google appelle le « synthetic gap » : le délai entre l'apparition d'une nouvelle méthode de génération et le déploiement d'une parade. Les réseaux de spam diffusent des variantes localisées d'un même matériel, jamais strictement identiques, pour passer sous les détecteurs statiques.
L'« AI slop » désigne ce contenu de masse, de faible qualité, produit par IA avec une supervision minimale. ZapNews a déjà raconté comment des noms d'auteurs bien réels sont détournés pour écouler ce rebut synthétique. SAFE applique la même logique à la vidéo, en classant l'opération coordonnée plutôt que chaque fichier.
Un prédécesseur qui a déjà supprimé 130 000 chaînes
SAFE est le second système anti-spam IA repéré chez Google en 2026. Le premier, le Scalable Cluster Termination System (S-CTS), a fermé 50 000 clusters de comptes coordonnés et 130 000 chaînes YouTube en six mois, selon l'article. Ses auteurs revendiquent un taux d'annulation sur appel inférieur à 1 % et une validation accélérée de 32 % par rapport à une relecture humaine.
Là où S-CTS prononce une fermeture, SAFE produit un verdict et un résumé pour examen humain. Les deux partagent une devise : juger l'opération, pas l'upload. Le patron de YouTube, Neal Mohan, avait annoncé en janvier 2026 vouloir cibler les contenus « répétitifs et de faible qualité », tout en précisant que la création assistée par IA avec apport humain et déclaration restait monétisable.
Le document SAFE ne tient pourtant qu'en trois pages et ne publie aucun chiffre sur son déploiement réel.