Le robot misogyne de recrutement d'Amazon

Cette intelligence artificielle, créée en 2014, notait les candidatures reçues pour des postes de développeurs logiciel et autres postes orientés techniques. Des emplois dominés par des profils masculins, et c'est pourquoi ce robot a écarté les curriculum vitae de femmes pendant trois ans ! Si les CV ne font pas mention du sexe du candidat, des indices peuvent laisser deviner qu'il s'agit d'une femme, par exemple s'il est marqué dans les hobbies « présidente du club d'échecs ». Or, puisque les femmes ne représentent qu'une faible part de ce type d'emplois, l'intelligence artificielle leur attribuait une mauvaise note d'emblée.

Amazon nourrissait de grandes ambitions dans ce programme : les ressources humaines voulaient que ce moteur puisse enregistrer une centaine de CV pour n'en ressortir que les cinq susceptibles par la suite d'être embauchés. Un « Graal », selon une des sources qui a révélé l'affaire. L'entreprise a bien tenté par la suite de rectifier le tir en élargissant les critères, rien n'y a fait, et finalement Amazon a décidé d'arrêter les frais. L'équipe en charge de cette intelligence artificielle, pas si intelligente finalement, a été dissoute.

Cette histoire, qui intervient à un moment de libération de la parole des femmes, tombe donc plutôt mal pour Amazon. Elle rappelle aussi qu'il importe de conserver un œil humain sur des processus automatisés ; parfois, ces derniers peuvent dérailler en s'inspirant du pire…