Workday deberá enfrentar demanda en California por sesgos de IA en sus herramientas de selección de personal

Por Daniel Wiessner

Workday WDAY.O debe enfrentar las acusaciones de que su popular software de recursos humanos basado en inteligencia artificial descartaba a candidatos a puestos de trabajo en otras empresas de formas que infringían la legislación de California y la prohibición federal de discriminar a los trabajadores con discapacidad, dictaminó el lunes una jueza federal.

La jueza federal de distrito Rita Lin, de San Francisco, rechazó el argumento de Workday, de California, de que las leyes estatales contra la discriminación no se aplican cuando la empresa selecciona a personas residentes fuera de California que solicitan empleo en otros estados y países.

La demanda colectiva propuesta, presentada en 2023, es la primera de este tipo que se centra de manera general en la toma de decisiones algorítmica en la que se basa el software de selección basado en IA —que se ha vuelto muy habitual entre las grandes empresas— y podría ayudar a definir cómo se llevan a cabo este tipo de litigios.

Lin rechazó en primer lugar los intentos de Workday de desestimar el caso en 2024 y, el lunes, denegó en su mayor parte la solicitud de la empresa de desestimar las recientes modificaciones introducidas en la demanda. Afirmó que, dado que Workday supuestamente participó en conductas ilegales desde su sede central de California, podría ser considerada responsable de discriminación en virtud de la legislación estatal.

La jueza también se negó a desestimar el argumento de que el software de Workday puede descartar a candidatos a un puesto de trabajo basándose en "indicadores indirectos" de discapacidades y enfermedades, como las lagunas en el historial laboral de una persona, lo que supone una violación de la Ley Federal de Estadounidenses de Discapacidades.

Lin sí desestimó una alegación según la cual el software de Workday discriminaba a los solicitantes de empleo de origen asiático-estadounidense, alegando que los demandantes no habían seguido el procedimiento adecuado para incluirla en la demanda.

Los demandantes alegan, por otra parte, que Workday discriminó a los solicitantes de empleo de raza negra, a las mujeres y a las personas mayores de 40 años.

Ni Workday ni los abogados de los demandantes respondieron de inmediato a las solicitudes de comentarios.

Numerosas encuestas han revelado que más del 80% de los empleadores estadounidenses, y prácticamente todas las empresas de la lista Fortune 500, utilizan herramientas de IA —como las desarrolladas por Workday— en el proceso de contratación.

Las agencias gubernamentales y los defensores de los trabajadores han expresado su preocupación de que las herramientas de IA puedan discriminar a los solicitantes de empleo cuando se desarrollan a partir de datos que reflejan sesgos preexistentes.

Sin embargo, hasta la fecha ha habido pocos litigios en torno al uso de estas herramientas por parte de los empleadores, lo que, según los expertos, podría deberse a que muchos solicitantes de empleo desconocen cuándo los empleadores utilizan software de IA y a las complejidades que entraña presentar una demanda relacionada con tecnología de vanguardia.

(Reportaje de Daniel Wiessner en Albany, Nueva York; edición de Alexia Garamfalvi y Aurora Ellis, Editado en español por Juana Casas )

((daniel.wiessner@thomsonreuters.com))