L'IA qui recrute : quand les biais naissent SEULS dans ses algorithmes

UNE IA QUI DÉCIDE À VOTRE PLACE… ET QUI A DES PRÉJUGÉS

Imaginez : vous postulez à un emploi, et c’est une intelligence artificielle qui trie votre CV avant même qu’un humain ne jette un œil. Bonne nouvelle ? Pas vraiment. Car cette IA ne se contente pas de reproduire les biais humains : elle en invente de nouveaux. Pire encore, elle le fait plus vite et plus fort que les humains. C’est ce que révèle une étude récente menée par des chercheurs de l’Université de Princeton et de l’Université de Chicago.

LE JEU DE SIMULATION QUI A TOUT DÉCHIRÉ

Pour comprendre comment une IA peut développer des stéréotypes, les chercheurs ont mis au point un jeu de simulation inspiré d’une étude en psychologie sur la formation des préjugés chez les humains. Le scénario ? Une IA se voit confier le rôle de consultant pour le maire d’une ville fictive. Sa mission : aider à recruter 20 personnes pour différents postes, comme médecin, avocat, aide à la petite enfance ou agent d’entretien.

Les candidats appartiennent à quatre groupes ethniques imaginaires : les Tufa, les Aima, les Reku et les Weki. À chaque tour, l’IA doit choisir un candidat parmi ces quatre groupes pour un poste. Une fois le choix fait, elle apprend si le candidat a réussi ou échoué dans son travail. Le but ? Maximiser le nombre de bons recrutements sur 40 tours. Mais attention : tous les candidats ont exactement la même chance de réussir, quel que soit leur groupe.

L’IA QUI S’ENFERME DANS SES PROPRES CASES

Résultat ? Très vite, l’IA commence à ségréguer les candidats en fonction de leur groupe ethnique. Par exemple, si l’IA apprend qu’un Aima a échoué en tant que médecin — un poste considéré comme exigeant à la fois de la compétence et de la chaleur humaine —, elle va éviter d’embaucher d’autres Aimas comme médecins. À la place, elle va les orienter vers des postes d’agents d’entretien, qu’elle considère comme moins exigeants en termes de compétences et d’empathie.

Et ce n’est pas tout : l’IA va encore plus loin que les humains dans ce comportement. Dans l’étude originale, les participants humains avaient un score de ségrégation de 0,84 sur une échelle où 2 signifie une ségrégation totale. Les modèles d’IA, eux, ont obtenu un score 65 % plus élevé. Le modèle de raisonnement d’OpenAI, l’o3, a même atteint 1,83, proche du maximum possible.

POURQUOI L’IA EST-ELLE SI VITE BIASÉE ?

Ryan Liu, doctorant à Princeton et coauteur de l’étude, explique ce phénomène par une particularité des modèles de langage : ils sont optimisés pour généraliser à partir de très peu de données. « C’est littéralement ce pour quoi ils sont conçus », précise-t-il. Chaque décideur, humain ou machine, doit faire un choix entre s’en tenir à ce qui a marché avant (exploitation) ou essayer quelque chose de nouveau (exploration). C’est comme choisir entre votre restaurant préféré et un nouveau resto dont vous ne connaissez pas la cuisine.

Le problème ? Les modèles de langage sont formés sur des problèmes de maths, de code ou de sciences — des tâches où généraliser rapidement est un avantage. Mais cette même tendance à tirer des conclusions hâtives peut les pousser à stéréotyper trop vite. Et plus l’IA est performante en raisonnement, comme l’o3 d’OpenAI ou le R1 de DeepSeek, plus elle risque de développer des biais. « Quand les modèles se précipitent pour généraliser dans des contextes sociaux, c’est là que les choses tournent mal », résume Liu.

LA MÉMOIRE DES CHATBOTS : UNE ARME À DOUBLE TRANCHANT

Ce problème devient encore plus critique avec l’arrivée de chatbots dotés de mémoire améliorée et de fonctionnalités de personnalisation. Angelina Wang, informaticienne à l’Université Cornell (qui n’a pas participé à l’étude), souligne que ces chatbots peuvent s’appuyer excessivement sur les comportements passés pour former des biais. « Si un chatbot se souvient trop de ce qu’il a vécu, il risque de reproduire les mêmes schémas », explique-t-elle. Mais supprimer toute mémoire n’est pas une solution non plus, car les utilisateurs veulent que les chatbots se souviennent de ce qu’ils leur disent. « On cherche encore le bon équilibre : pas trop, pas trop peu », ajoute-t-elle.

ORDONNER À L’IA D’ÊTRE JUSTE ? ÇA NE MARCHE PAS

Les chercheurs ont testé une solution simple : demander à l’IA d’être juste. Résultat ? Cela n’a presque aucun effet. « Soit l’IA ne parvient pas à appliquer ces valeurs, soit elle les ignore au profit de son objectif principal : maximiser le nombre de bons recrutements », explique Liu. En revanche, promettre une prime supplémentaire pour des recrutements diversifiés a drastiquement réduit les biais. La clé, selon Liu, est de concevoir des objectifs qui intègrent des valeurs sociales désirables pour pousser l’IA à agir de manière socialement acceptable.

PLUS D’INFORMATIONS = MOINS DE BIAS ? PAS SI SIMPLE

Dans une autre expérience, les chercheurs ont demandé aux modèles de redistribuer des membres de différents groupes ethniques dans des villes canadiennes. Quand l’IA disposait d’informations personnelles pertinentes pour s’adapter à une nouvelle ville (comme l’âge ou le niveau d’éducation), elle était moins susceptible de ségréguer par ethnie. Mais si on lui donnait des informations irrelevantes (comme la couleur des cheveux ou la forme d’un tatouage), elle revenait à ses anciens réflexes et triait les gens par ethnie.

LE MONDE RÉEL : UNE AUTRE HISTOIRE

Dans la vraie vie, une IA qui trie des CV ne reçoit pas de feedback instantané sur ses choix. Contrairement à l’expérience en laboratoire, où l’IA sait immédiatement si un candidat a réussi ou échoué, une entreprise met des mois à évaluer un nouveau recrutement. Pourtant, quand le feedback arrive enfin, l’IA pourrait tirer des conclusions hâtives et reproduire ses biais sur les prochains recrutements. Avec l’essor des modèles de langage dans le tri des CV et même les entretiens, cette découverte est un avertissement sérieux pour les entreprises, selon Angelina Wang.

LES BIAS QUI VIENNENT DE NULLE PART

Le pire ? Les biais que les IA développent toutes seules, sans avoir été exposées à des préjugés humains. « Ces biais inédits sont toujours présents », prévient Ryan Liu. « Ils peuvent émerger spontanément, sans qu’on les ait jamais enseignés à l’IA. »

ET LES ENTREPRISES DANS TOUT ÇA ?

Subquadratic, une entreprise spécialisée dans l’IA, a récemment partagé plus de détails sur son nouveau modèle. Mais certains restent sceptiques face à ces avancées. Pendant ce temps, la question des impacts réels de l’IA sur le marché du travail reste ouverte. Une chose est sûre : avec des Outils comme Claude Code, de plus en plus de développeurs confient des tâches de codage à l’IA. Le monde du logiciel a changé pour de bon.

PLONGER DANS LES PROFONDEURS D’UNE IA

Une nouvelle technique permet désormais aux entreprises d’explorer les mécanismes internes d’un modèle de langage comme jamais auparavant. Mais derrière ces avancées se cachent des questions éthiques et des défis techniques qui restent à relever.

CE QU’IL FAUT RETENIR

Les modèles de langage ne se contentent pas de reproduire les biais humains : ils en créent de nouveaux, et bien plus rapidement. Leur tendance à généraliser trop vite les pousse à stéréotyper les candidats plus fort que les humains. Même en leur demandant d’être justes, rien ne change. La seule solution efficace ? Intégrer des objectifs qui récompensent la diversité. Mais attention : dans la vraie vie, où le feedback est lent, le risque de biais reste bien réel. Et ces biais inédits, nés de nulle part, pourraient bien être les plus dangereux de tous.