Google a porté plainte le 12 juin contre « Outsider Enterprise », un réseau cybercriminel basé en Chine accusé d'avoir détourné son intelligence artificielle Gemini pour industrialiser des arnaques en ligne. Selon le groupe, l'opération a touché des centaines de milliers de victimes américaines, pour des pertes chiffrées en millions de dollars, et serait reliée à plus de 9 000 faux sites et un million d'URL frauduleuses. C'est la première fois que Google poursuit en justice un abus de Gemini, rapporte Ars Technica.
Gemini transformé en usine à sites d'arnaque
D'après la plainte, les membres du réseau utilisaient Gemini pour générer du code de sites de phishing et l'infrastructure d'escroquerie qui va avec. Le tout fonctionnait comme une plateforme de « phishing-as-a-service » : Outsider Enterprise coordonnait ses opérations via des canaux Telegram et distribuait des kits clés en main à des affiliés peu qualifiés techniquement, détaille 9to5Google.
Le groupe fournissait des instructions pas à pas et près de 300 modèles préconçus expliquant à des escrocs amateurs comment se servir de Gemini pour bâtir de faux sites convaincants. Ces pages imitaient Google et YouTube, mais aussi des organismes publics comme l'US Postal Service ou le service de péage E-ZPass de l'État de New York, précise Help Net Security.
Des chiffres qui disent l'ampleur
L'échelle du dispositif impressionne. Sur une période de deux semaines en mai, les utilisateurs Android ont signalé 55 000 SMS indésirables liés à l'opération, et Google a relié 2,5 millions de messages envoyés sur la même fenêtre à des sites issus de l'infrastructure d'Outsider Enterprise, selon Engadget.
Au total, le réseau est associé à plus de 9 000 faux sites et un million d'URL frauduleuses, qui auraient piégé des centaines de milliers de personnes pour des pertes se comptant en millions de dollars.
Riposte coordonnée avec le FBI et les opérateurs
Au-delà de la procédure judiciaire, qui vise à démanteler l'infrastructure du groupe, Google coordonne sa riposte avec les autorités et le secteur télécoms. La division Cyber du FBI est partie prenante, et le groupe travaille avec les opérateurs américains AT&T, T-Mobile et Verizon pour bloquer les SMS frauduleux avant qu'ils n'atteignent les abonnés.
« Les criminels utilisent de plus en plus l'IA pour rendre des fraudes de ce type plus convaincantes et plus difficiles à détecter », a averti Brett Leatherman, du FBI, cité par Help Net Security. Google plaide en parallèle pour l'adoption de plusieurs textes de loi bipartisans destinés à mieux encadrer les arnaques dopées à l'IA.
L'affaire illustre une tension désormais récurrente du secteur : les mêmes outils d'IA générative vendus pour leur productivité servent aussi à industrialiser la malveillance. Les fournisseurs en sont réduits à durcir leurs garde-fous, parfois au point d'irriter les professionnels de la sécurité, comme on l'a vu avec les critiques visant Claude Fable d'Anthropic. La fraude assistée par IA se diffuse sur tous les fronts, des faux sites bancaires aux comptes Instagram piratés et exploités.