Um sinal de alerta foi disparado para todo o mercado de recursos humanos que utiliza inteligência artificial. A juíza federal Rita Lin, do Distrito Norte da Califórnia, indicou que deve aceitar novas acusações de discriminação contra a Workday, gigante de softwares corporativos. Na prática, a decisão pode tornar os fornecedores de software de recrutamento — e não apenas os empregadores finais — legalmente responsáveis por eventuais vieses de idade, raça, gênero ou deficiência presentes nos algoritmos.
Entenda o caso Mobley x Workday
O processo foi iniciado por Derek Mobley, homem negro, com deficiência e com mais de 40 anos, que enviou mais de 100 candidaturas via plataforma Workday e recebeu apenas negativas. Ele alega que os filtros automáticos de IA o eliminaram repetidamente. As acusações se baseiam em:
- Title VII (Lei dos Direitos Civis de 1964) – proíbe discriminação por raça e sexo;
- ADA (Lei dos Americanos com Deficiência, 1990) – protege pessoas com deficiência;
- ADEA (Lei de Discriminação por Idade, 1967) – cobre profissionais com 40 anos ou mais;
- FEHA (Lei de Emprego Justo e Habitação da Califórnia) – considerada ainda mais ampla que as legislações federais.
A principal novidade é justamente a inclusão da FEHA. A Workday argumentou que a lei californiana não deveria valer para candidatos nem empresas fora do estado. A juíza, porém, discordou: segundo ela, se o algoritmo da Workday influencia a decisão de contratação, a companhia pode, sim, ser responsabilizada.
Por que essa decisão pode mudar o jogo?
Se confirmada, a interpretação cria um padrão nacional: qualquer fornecedor de IA usada em processos seletivos poderá ser processado por vieses, mesmo sem fazer a contratação final. Isso:
- Eleva os custos de conformidade para desenvolvedores de ATS (Applicant Tracking Systems) e ferramentas de triagem automática;
- Pressiona empresas a auditarem constantemente seus algoritmos;
- Pode acelerar a adoção de certificações baseadas em padrões do NIST e da ISO para IA responsável.
Como o viés entra na IA de recrutamento?
Mesmo quando a plataforma não coleta dados sensíveis diretamente, variáveis aparentemente neutras — como anos de experiência ou lacunas no currículo — podem funcionar como proxies que indicam idade ou condição de saúde. Além disso, modelos treinados com histórico de contratações tendem a reproduzir preconceitos já existentes.
O que diz a Workday
Em nota, a empresa classificou as acusações como “infundadas”. Kelly Trindel, Chief Responsible AI Officer da Workday e ex-analista-chefe da EEOC, afirma que:
- Os algoritmos não tomam decisões finais de emprego, apenas ranqueiam a adequação técnica;
- Há supervisão humana em todas as etapas;
- Auditorias contínuas são realizadas para detectar e mitigar vieses.
Outras plataformas também na mira
A Workday não está sozinha. Ferramentas de IA de recrutamento da Eightfold, por exemplo, enfrentam ações coletivas semelhantes. A pressão regulatória deve crescer após a publicação de leis como a AI Act europeia e projetos de lei estaduais nos EUA que exigem auditorias de viés.
Impacto para empresas e candidatos
Para departamentos de RH: revisar contratos com fornecedores de IA, exigir relatórios de explainability e implementar testes A/B para detectar disparidades de resultado deixou de ser recomendação e virou necessidade.
Imagem: Taryn Plumb
Para quem busca emprego: manter o currículo claro, padronizado e com palavras-chave alinhadas à descrição da vaga continua importante, mas a transparência algorítmica tende a aumentar. Fique atento a políticas de privacidade e procure saber se o recrutador usa IA.
Próximos passos
A juíza Rita Lin ainda não divulgou data para decisão final. Se confirmar a responsabilização da Workday sob a FEHA, veremos uma onda de revisões contratuais e, possivelmente, um novo mercado de “seguros contra viés de IA” para fornecedores de tecnologia.
Fique de olho: a discussão não envolve apenas departamentos de RH. Startups que desenvolvem chatbots de suporte, sistemas de pontuação de crédito e até soluções de recomendação de produtos podem ser envolvidas em litígios parecidos se não documentarem, testarem e explicarem seus modelos.
No fim das contas, o caso Mobley x Workday reforça a máxima: IA não é neutra. E quem lucra com algoritmos terá que provar, cada vez mais, que seus modelos são justos — antes que um juiz prove o contrário.
Com informações de Computerworld
