EEOC alcança acordo histórico no primeiro caso de discriminação por IA

Em um desenvolvimento inovador, a Comissão de Oportunidades Iguais no Emprego dos EUA (EEOC) chegou a um acordo preliminar em seu primeiro processo judicial por discriminação centrado no uso de software de inteligência artificial (IA) em práticas de contratação. O caso destaca o compromisso da EEOC em abordar possíveis vieses nos processos de recrutamento orientados por IA, uma preocupação crescente à medida que a tecnologia desempenha um papel cada vez mais crucial nas decisões de emprego. A ação judicial, EEOC v. iTutorGroup, Inc., marca um marco significativo no diálogo contínuo sobre as implicações éticas e legais da IA no emprego.

Posição firme da EEOC sobre IA e discriminação

Em maio de 2022, a EEOC, em parceria com o Departamento de Justiça dos EUA, adotou uma abordagem proativa ao lançar diretrizes para fornecer clareza a empregadores, funcionários e candidatos sobre o uso adequado de ferramentas de IA nos processos de emprego. Essa medida significou o reconhecimento dos potenciais problemas que poderiam surgir da dependência acrítica de sistemas orientados por IA. As diretrizes lançaram as bases para ações subsequentes, incluindo uma audiência pública realizada pela EEOC em janeiro do ano seguinte. A audiência, que contou com a participação de quase 3.000 participantes virtuais, apresentou depoimentos de uma ampla variedade de especialistas, desde a União Americana pelas Liberdades Civis até a Câmara de Comércio dos EUA e representantes de escritórios de advocacia e instituições acadêmicas.

O caso da iTutorGroup e as alegações de discriminação por idade

No caso EEOC v. iTutorGroup, Inc., a EEOC apresentou alegações contra a iTutorGroup, uma provedora de serviços de tutoria em língua inglesa para estudantes na China. A alegação central girava em torno do suposto uso da empresa de software de IA que rejeitava automaticamente candidatos com base na idade. Essa prática discriminatória veio à tona quando um candidato inicialmente rejeitado se candidatou novamente com uma data de nascimento diferente e foi posteriormente aceito para a posição. O caso exemplifica as consequências de longo alcance que as ferramentas de seleção baseadas em IA podem ter, levando inadvertidamente a resultados injustos e ilegais.

Detalhes do Acordo Preliminar e Decreto de Consentimento

A EEOC e a iTutorGroup agora entraram em um acordo preliminar, sujeito à aprovação do juiz Pamela K. Chen. O decreto de consentimento proposto delineia medidas abrangentes para corrigir as práticas discriminatórias alegadas. Nos termos do decreto, a iTutorGroup concordou em pagar um total de US$ 365.000, que serão distribuídos entre mais de 200 candidatos que foram injustamente negados de posições, violando a Lei de Discriminação por Idade no Emprego. A empresa também é obrigada a convidar candidatos anteriormente rejeitados entre março e abril de 2020 para se candidatarem novamente às posições. Além disso, a iTutorGroup é obrigada a adotar políticas antidiscriminatórias e implementar treinamento antidiscriminatório para seus funcionários.

Avanços contra o viés da IA e implicações para o futuro

Este caso histórico destaca a postura robusta da EEOC contra empresas que empregam software de IA em seus processos de recrutamento. As implicações deste acordo se estendem além das partes imediatamente envolvidas, ressoando em toda a indústria de tecnologia e nos setores de emprego em geral. A fiscalização da EEOC sobre ferramentas de IA se estende a várias categorias de aplicativos que levantam preocupações entre críticos e defensores da ética em IA. Exemplos notáveis incluem:

• Scanners de currículos e priorização por palavras-chave: Algumas ferramentas de IA utilizam scanners de currículos para priorizar candidaturas com base em palavras-chave específicas. Embora isso possa agilizar a triagem inicial, também levanta questões sobre a possível perpetuação de vieses associados a essas palavras-chave.
• Software de monitoramento de funcionários: Ferramentas de monitoramento de funcionários baseadas em IA que avaliam o desempenho com base em fatores como digitação levantam preocupações sobre a erosão da privacidade dos funcionários e o potencial de avaliações imprecisas.
• Assistentes virtuais e chatbots: Assistentes virtuais ou chatbots que avaliam as qualificações dos candidatos podem, inadvertidamente, excluir indivíduos promissores que não atendem a critérios predefinidos, perdendo perspectivas e capacidades diversas.
• Entrevistas em vídeo e análise de expressões faciais: Softwares de entrevista em vídeo que avaliam candidatos com base em expressões faciais e padrões de fala podem, inadvertidamente, introduzir avaliações subjetivas e potencialmente discriminatórias.
• Software de testes e pontuação de adequação ao cargo: Softwares de teste que atribuem pontuações de "adequação ao cargo" com base em aptidões, personalidades ou compatibilidade cultural percebida levantam preocupações sobre como esses fatores são medidos e se podem levar a discriminações injustas.

Perspectivas futuras: Decreto de consentimento de cinco anos

Se o decreto de consentimento receber a aprovação do juiz Chen, permanecerá em vigor por cinco anos. Este compromisso temporal reflete a determinação da EEOC de garantir mudanças e melhorias sustentadas nas práticas de contratação da iTutorGroup. O resultado deste caso servirá como precedente para ações legais futuras envolvendo discriminação por IA, estabelecendo expectativas para que as empresas sejam diligentes na avaliação e mitigação de vieses em seus processos de contratação orientados por tecnologia.

A abordagem proativa da EEOC, a resposta coletiva de especialistas e partes interessadas e o acordo pivotal em EEOC v. iTutorGroup, Inc. sinalizam coletivamente um momento crucial na narrativa contínua em torno da IA, ética e direito do trabalho. Os próximos anos provavelmente testemunharão um foco intensificado na implementação responsável de ferramentas de IA, com as empresas sendo responsabilizadas pelo impacto de sua tecnologia na diversidade, justiça e igualdade de oportunidades.