Trier des candidatures avec un logiciel n'efface pas les discriminations à l'embauche, il les automatise. Les travaux universitaires les plus cités sur le sujet, menés à l'université de Washington, montrent que des modèles de langage chargés de classer des CV privilégient les prénoms à consonance blanche dans 85 % des cas et les prénoms féminins dans 11 % seulement. Ce que la recherche établit vraiment, ce qu'elle ne dit pas, et le droit qui tente de suivre.
Ce que l'étude a mesuré
Kyra Wilson et Aylin Caliskan, de l'Information School de l'université de Washington, ont présenté en octobre 2024, à la conférence AAAI/ACM sur l'intelligence artificielle et l'éthique, un audit de trois modèles de langage libres (édités par Mistral AI, Salesforce et Contextual AI) utilisés pour classer des candidatures. Le protocole repose sur 120 prénoms statistiquement associés à des hommes et des femmes, blancs et noirs, greffés sur plus de 550 vrais CV et confrontés à plus de 500 offres d'emploi réelles couvrant neuf métiers, soit plus de trois millions de comparaisons (UW News, preprint arXiv).
À contenu de CV identique, seul le prénom changeant, les modèles retiennent les prénoms à consonance blanche dans 85 % des classements contre 9 % pour les prénoms noirs, et les prénoms masculins dans 52 % des cas contre 11 % pour les prénoms féminins. L'examen croisé du genre et de l'origine durcit le tableau : les prénoms d'hommes noirs ne sont jamais préférés à ceux d'hommes blancs, tandis qu'entre profils noirs, les prénoms de femmes passent devant ceux d'hommes dans 67 % des cas (synthèse Brookings). Un logiciel qui n'a jamais vu la couleur de peau d'un candidat reconstitue donc une hiérarchie raciale et sexuée à partir du seul patronyme.
Comment un algorithme apprend à discriminer
Le tri automatisé de CV ne « lit » pas un dossier comme un recruteur. Il convertit chaque texte en une suite de nombres (un plongement, ou embedding) censée capturer son sens, puis mesure la proximité entre le vecteur d'un CV et celui d'une offre. Ces représentations sont apprises sur d'immenses corpus de textes où prénoms, métiers et parcours sont déjà associés de façon inégale. Le modèle n'a pas de règle « écarter les femmes » ; il a intériorisé que certains prénoms cohabitent plus souvent avec certains postes, et il rejoue cette statistique au moment de classer.
Le précédent le plus connu est industriel. Entre 2014 et 2017, Amazon a développé puis abandonné un outil maison de notation des CV après avoir constaté qu'il défavorisait les candidatures féminines pour des postes techniques. Entraîné sur dix ans d'embauches à dominante masculine, il avait appris à pénaliser le mot « women's » et à déclasser les diplômées de deux universités réservées aux femmes (Reuters, via Euronews). La logique est la même que dans l'étude de 2024 : le biais ne vient pas d'une intention, mais des données passées que la machine prend pour un modèle de réussite.
Quand l'humain garde la main, en théorie
L'argument habituel des éditeurs veut qu'un recruteur reste décisionnaire et corrige la machine. Une seconde étude de la même équipe, présentée en octobre 2025, le met à mal. Wilson et ses coauteurs ont fait trier des candidatures à 528 participants recrutés sur la plateforme Prolific, sur seize catégories de postes, avec une IA dont ils réglaient le niveau de biais (UW News, preprint arXiv). Sans IA, ou avec une IA neutre, les choix restaient équilibrés. Dès que l'outil recommandait des profils de façon discriminante, les participants reproduisaient sa préférence ; face à un biais marqué mais peu visible, ils suivaient la recommandation dans environ 90 % des cas, parce qu'ils ne voyaient qu'un score, pas le raisonnement. Un exercice préalable de sensibilisation aux biais réduisait l'effet d'à peine 13 %. La supervision humaine, souvent présentée comme le garde-fou, s'aligne ici sur la machine plutôt qu'elle ne la contrôle.
Ce que ces travaux ne disent pas
La portée de ces résultats appelle des réserves nettes, que les auteurs assument. Le signal testé est le prénom, un indice indirect du genre et de l'origine perçus, pas une décision d'embauche réelle : personne n'a été recruté ou écarté dans ces expériences de laboratoire. Les modèles audités en 2024 sont des systèmes d'appariement de texte libres, pas les logiciels commerciaux effectivement déployés par les entreprises, dont le fonctionnement reste largement fermé. D'autres critères protégés (l'âge, le handicap, l'état de santé) ne sont pas mesurés, alors qu'ils comptent parmi les discriminations les plus fréquentes à l'embauche. Le contexte est américain, avec des prénoms et des catégories raciales propres aux États-Unis, difficilement transposables tels quels au marché français. Enfin, l'expérience de 2025 s'appuie sur des CV générés par IA et un panel en ligne, pas sur des recruteurs professionnels en situation. Ces études démontrent qu'un biais existe et se transmet ; elles ne chiffrent pas combien de candidats un logiciel donné a réellement écartés.
Le contexte d'usage, lui, n'a rien d'anecdotique. L'automatisation du premier tri progresse vite. Côté candidats, la moitié recourent déjà à l'IA pour postuler, comme le montrait notre article sur les CV dopés à l'IA ; côté institutions, la même logique de score alimente désormais le contrôle, à l'image de l'outil de profilage testé par France Travail. Plus le filtrage machine s'installe en amont, plus un biais même modeste se répercute sur un grand nombre de dossiers.
Le droit tente de rattraper la technique
Le cadre européen prend le sujet de front. Le règlement sur l'intelligence artificielle (AI Act) classe parmi les systèmes « à haut risque » les outils destinés à publier des offres ciblées, à filtrer les candidatures ou à évaluer les candidats (annexe III, point 4). Ce classement impose à leurs fournisseurs et utilisateurs une évaluation des risques, une documentation technique, une supervision humaine effective et une information des personnes concernées. Le calendrier, en revanche, n'est pas stabilisé : les obligations liées à ces systèmes devaient s'appliquer le 2 août 2026, mais un accord dit « Omnibus », encore à confirmer, propose de les repousser au 2 décembre 2027 (Gibson Dunn).
Le recrutement algorithmique ne part pas d'un vide juridique pour autant. En France, le droit de la non-discrimination interdit déjà d'écarter un candidat sur la base de son sexe, de son origine, de son âge ou de son état de santé, que la décision soit prise par un humain ou assistée par un logiciel ; l'employeur reste responsable du résultat. La difficulté est probatoire. Un biais logé dans un plongement statistique se prouve moins facilement qu'une consigne écrite, et l'opacité des outils commerciaux complique tout audit externe. C'est cette zone que l'AI Act cherche à réduire, en exigeant traçabilité et contrôle humain avant même qu'un litige survienne.
En l'état, aucune obligation d'audit de ces systèmes n'est encore juridiquement contraignante à l'échelle européenne, et la date à laquelle elle le deviendra reste suspendue à un texte non adopté.