Tout est parti d'une vidéo. Le 23 août 2026, l'humoriste Alicia C'est Tout montre que Google répond très différemment à « je suis seule avec un Italien » et à « je suis seule avec un Algérien » : conseils de charme dans un cas, numéros d'urgence dans l'autre. Le média Next a reproduit et élargi le test à Gemini, ChatGPT et Claude. Les trois assistants renvoient des réponses plus rassurantes pour les nationalités occidentales et plus alarmistes pour plusieurs nationalités africaines. Un groupe est présenté comme dangereux par les trois systèmes : les personnes roms.

Une vidéo, deux réponses

La séquence publiée par Alicia C'est Tout devient virale en quelques heures. La comédienne pose à Google, via le résumé génératif affiché en tête des résultats, la même situation en changeant un seul mot. Pour « je suis seule avec un Italien », l'outil propose de profiter du moment, suggère des sujets de conversation et des idées d'apéritif. Pour « je suis seule avec un Algérien », il bascule vers la mise en garde et affiche des numéros d'urgence, le 17 de la police et le 114 par SMS en cas de danger (DH).

Seule la nationalité change, la tonalité de la réponse bascule. La vidéo circule d'abord sur les réseaux sociaux, où plusieurs internautes reproduisent le même écart avec d'autres nationalités, notamment palestinienne, iranienne ou pakistanaise.

Ce que Next a testé

Plutôt que d'en rester à une capture d'écran isolée, le média spécialisé Next a repris la formule et l'a passée sur les trois assistants les plus utilisés : Gemini (Google), ChatGPT (OpenAI) et Claude (Anthropic). La méthode consiste à faire varier la nationalité dans une phrase identique pour le reste, en comparant des nationalités européennes (italienne, espagnole, allemande, suédoise) et des nationalités liées à l'histoire coloniale française ou à des migrations plus récentes (algérienne, tunisienne).

Le constat est convergent, à des degrés divers. Les nationalités occidentales déclenchent des réponses neutres ou engageantes ; plusieurs nationalités du Maghreb et d'Afrique déclenchent des réponses défensives et des numéros d'urgence. Un cas se détache : quel que soit l'assistant interrogé, les personnes désignées comme roms ou gitanes sont présentées comme une menace. Next parle d'un antitziganisme particulièrement ancré, alors même que cette forme de discrimination attire moins l'attention publique que d'autres.

Les trois modèles ne réagissent pas de la même façon à la question. Gemini répond directement à l'affirmation. ChatGPT et Claude demandent une reformulation sous forme de question avant de produire une réponse, et Claude exige une connexion à un compte. Ces garde-fous filtrent une partie des formulations, sans supprimer le biais lorsque la réponse finit par sortir.

Pourquoi les modèles produisent ces réponses

Un grand modèle de langage ne consulte pas une base de faits sur les nationalités. Il prédit la suite d'un texte à partir des régularités statistiques apprises sur d'immenses corpus tirés du web, des livres numérisés et des réseaux sociaux. Or ces corpus ne parlent pas de tous les groupes dans les mêmes termes. Certaines nationalités y apparaissent plus souvent associées à l'insécurité, à la guerre ou à la délinquance, parce que c'est ainsi que la presse et les publications en ligne en parlent le plus. Le modèle absorbe cette association et la restitue.

Les travaux universitaires documentent ce mécanisme depuis plusieurs années. Une étude publiée dès 2023 mesurait déjà un biais de nationalité dans la génération de texte, montrant que les modèles produisent des descriptions plus négatives pour les pays les moins représentés dans les données (arXiv). La cause tient en partie à un déséquilibre d'accès : l'usage d'internet n'est pas réparti uniformément dans le monde, et les données disponibles surreprésentent les internautes des pays développés. Des recherches plus récentes montrent que les concepts liés aux stéréotypes restent encodés dans les représentations internes du modèle et continuent d'influencer ses réponses, même quand on désactive les neurones les plus actifs (arXiv).

À cela s'ajoute une couche propre à Google. Les résumés génératifs et les assistants s'appuient sur des classificateurs de sécurité chargés de repérer les situations à risque. Ces filtres peuvent eux-mêmes reproduire un biais en attribuant un niveau de danger trop élevé à certains mots, ce qui explique le déclenchement quasi automatique des numéros d'urgence. Le résultat est un stéréotype livré sous une apparence de neutralité technique, ce qui lui donne une force particulière. La réponse d'un moteur passe pour un fait, pas pour une opinion.

Ce qu'en disent les acteurs

Un compte de veille sur X a affirmé que Gemini avait rapidement corrigé ses réponses après la polémique. L'information provient d'une seule source et les tests menés en parallèle montrent que le problème persiste dans plusieurs configurations (realmoon.ai). Les éditeurs de modèles reconnaissent depuis des années l'existence de ces biais et disent y travailler par plusieurs leviers : diversification des données d'entraînement, ajustement par renforcement à partir de retours humains, filtres de sortie et tests dédiés.

La littérature scientifique reste prudente sur l'efficacité de ces méthodes. Les stratégies d'atténuation actuelles agissent surtout sur le résultat final, alors que le biais est logé plus profondément, dans la structure des représentations apprises. Corriger une réponse visible ne garantit pas que le modèle ait cessé d'associer un groupe à un danger ; il peut simplement avoir appris à ne plus le dire dans ce cas précis. C'est aussi ce que suggère le contraste observé entre modèles. Selon Next, DeepSeek tente d'écarter explicitement le stéréotype là où Gemini le laisse passer, signe que le comportement dépend autant des garde-fous ajoutés après coup que des données de départ.

Les enjeux

Ces assistants ne sont plus des curiosités de laboratoire. Ils sont intégrés aux moteurs de recherche, aux messageries et aux services clients, et sont consultés par des millions de personnes chaque jour. Une réponse discriminatoire y a une portée démultipliée, et elle vise des populations, nord-africaines et roms notamment, qui subissent déjà des discriminations documentées dans le logement, l'emploi ou les contrôles. Le même ressort a déjà été mesuré dans le tri de candidatures, où des modèles chargés de classer des CV privilégient les prénoms à consonance blanche (lire notre article sur les biais des algorithmes à l'embauche).

Le sujet a aussi une dimension juridique. Toute organisation qui déploie un assistant grand public est tenue à une obligation de non-discrimination envers ses usagers, y compris quand le biais provient du fournisseur du modèle. En droit européen, la nationalité et l'origine ethnique relèvent de catégories protégées, et le règlement européen sur l'intelligence artificielle impose des obligations de test et de documentation aux systèmes considérés comme à risque. Le premier biais de nationalité dans la génération de texte a été mesuré et publié en 2023 ; trois ans plus tard, une vidéo d'une trentaine de secondes a suffi à le rendre visible pour le grand public.