Une personne à la recherche d’emploi aux USA poursuit en justice l’éditeur de logiciels pour des biais sur les algorithmes qui font fonctionner sa plate-forme.
Cela ne peut arriver qu’aux Etats-Unis ! Un chômeur noir américain de 50 ans, Derek Mobley, souffrant de dépression, a posé une plainte contre Workday en 2023 qui allègue que la plate-forme logicielle l’a discriminé en raison de son âge, de sa race ou de son handicap. Entre 2017 et 2019 il a répondu à 100 demandes d’emplois avec toujours insuccès avec des réponses qui lui indiquait un refus très tard dans la nuit ou moins d’une heure après qu’il est répondu à la demande d’emploi. Il note que de nombreuses entreprises auxquels il répondait utilise la plate-forme de Workday qui trace et suit les candidatures.
Workday se défend an arguant que les entreprises font leur choix et non le logiciel. Des experts se sont exprimés sur ce cas et ont indiqué que le système de scoring employé peut automatiquement rejeté des candidatures selon différents critères, incluant des trous dans le CV ou un manque de correspondances sur les compétences demandées. La plainte de ce chômeur a été déclaré recevable par un tribunal de Californie ouvrant la voie à d’autres plainte de ce type pour des salariés de plus de 40 ans. Cela pose directement la question sur les algorithmes qui prennent des décisions automatiques comme des agents. Si la plainte devait donner raison à Mr Mobley il est possible que de nouvelles règles ou une attention particulière soit mises en vigueur comme de demander aux éditeurs de logiciels et à leurs clients d’être plus prudents afin d’éviter ce type de biais.
