Deuxième volet de la série de « Le code a changé » (France Inter, Xavier de La Porte) sur la façon dont la dématérialisation, les algorithmes et l'IA durcissent notre rapport à l'État. Après la galère des titres de séjour, l'épisode déplace la focale : et si le vrai enjeu n'était pas le bug du formulaire, mais les choix politiques dissimulés dans le calcul ? Face à l'avocat Joël Werba, la chercheuse Soizic Pénicaud, cofondatrice de l'Observatoire des algorithmes publics, démonte l'idée d'une neutralité technique.
L'épisode part d'un constat simple : derrière chaque algorithme public se cachent des arbitrages qui relèvent de la décision politique, mais qui avancent masqués sous des critères présentés comme purement mathématiques. Deux exemples structurent la discussion. Parcoursup, d'abord, dont la mécanique de classement des candidats n'a rien d'inévitable : des travaux universitaires ont montré qu'en modifiant les paramètres du tri, on pouvait faire varier sensiblement la mixité sociale des promotions. Choisir une formule, c'est déjà choisir une société.
Second cas, l'algorithme de la CAF, qui attribue à chaque allocataire un « score de risque » pour cibler les contrôles anti-fraude et les trop-perçus. Des associations ont montré que ses variables — parmi lesquelles la perception du RSA ou de faibles revenus — visent de façon disproportionnée les plus précaires, sans que les personnes concernées soient informées d'être notées. La suspicion se code, silencieusement.
À retenir. Une thèse claire portée par une spécialiste de la gouvernance des algorithmes : l'automatisation ne se contente pas d'exécuter une politique, elle en fabrique une en déplaçant le pouvoir de décision de l'agent au guichet vers le concepteur du code, et en la soustrayant au contrôle démocratique par manque de transparence. À écouter en prolongement du premier volet, consacré à l'ANEF et aux étrangers. Une vingtaine de minutes pour comprendre pourquoi réclamer l'ouverture des algorithmes publics est devenu un combat politique à part entière.