plaçaient beaucoup d’espoirs en la capacité des robots à aider les employeurs à lutter contre les discriminations au travail. En particulier, nombre d’entre eux imaginaient encore il y a quelques années que les robots deviendraient des compagnons indispensables pour garantir un recrutement uniquement fondé sur la raison et les compétences. On connaît en effet depuis longtemps tous les biais qui interviennent chez les recruteurs, que ce soit lors de la sélection des CV ou bien lors des entretiens de motivation.

de supprimer ces biais. L’idée était simple : contrairement aux êtres humains, les algorithmes ne sont pas mus par les stéréotypes et les apparences. Ils sont neutres et objectifs, si bien qu’ils devraient permettre de recruter les meilleurs candidats, quels que soient leur âge, sexe, orientation sexuelle ou encore couleur de peau.

des robots recruteurs révèle pourtant que ce beau rêve relève encore largement de l’utopie. C’est un des tristes constats qui est ressorti de la conférence de l’association des chercheurs sur Internet qui s’est tenue à Montréal en octobre. En effet, les robots recruteurs semblent être pires que les êtres humains au sens où, paradoxalement, ils discriminent encore plus. Un cas flagrant est l’échec du robot recruteur développé par Amazon, comme le relate l’agence de presse Reuters1. La compagnie américaine présentée comme un fleuron des entreprises hi-tech a dû se rendre à l’évidence. Malgré des années de développement et des millions dépensés, son robot recruteur développé depuis 2014 est un échec : il discrimine fortement les femmes. Les CV reçus incluant le mot « femme », « club féminin d’échecs » ou encore certains établissements scolaires 100 % féminins étaient automatiquement mal classés.

sur le papier. Ce robot devait aider les recruteurs à faire le tri en quelques secondes parmi des centaines de CV. L’objectif était de classer les candidats en leur attribuant plus ou moins d’étoiles, à l’instar des hôtels ou des avis postés par les utilisateurs sur Internet.

puisse discriminer les CV des candidats selon des critères sexistes ? Tout simplement parce que les robots sont des champions de la reproduction sociale. Par exemple, s’ils notent que les hommes ont de meilleures positions que les femmes, ils vont apprendre à avantager les hommes. Les robots recruteurs d’Amazon étaient conçus pour analyser les candidatures en fonction des CV reçus par cette entreprise depuis plus de dix ans. Le système avait alors appris à attacher peu d’importance aux compétences détenues par de nombreux candidats et à chercher d’autres mots-clés dans les CV qui pourraient faire ressortir les meilleurs. C’est alors que l’algorithme a considéré que les candidatures utilisant des mots-clés utilisés essentiellement par les hommes étaient à favoriser.

malheur est bon, les limites actuelles des robots recruteurs est une bonne nouvelle pour les recruteurs : leur job n’est pas menacé pour l’instant ! La responsabilité de recrutements non discriminants repose donc entièrement sur eux.