EEOC lança luz sobre o impacto da IA na discriminação no local de trabalho

Resumo TL;DR

• A orientação mais recente da EEOC alerta as empresas para a possibilidade de violações das leis trabalhistas resultantes do uso inadequado de IA em áreas como contratação, retenção e outras.
• Os empregadores devem realizar auditorias proativas para prevenir preconceitos e demonstrar seu compromisso com a igualdade de oportunidades de emprego. Os empregadores são responsáveis pelo comportamento de seus fornecedores de IA.
• Os empregadores devem abordar possíveis disparidades nas seleções de IA e responsabilizar os fornecedores por quaisquer resultados discriminatórios.

A orientação recente da Comissão de Oportunidades Iguais de Emprego (EEOC) vem com um forte aviso cautelar para as empresas sobre o uso de inteligência artificial (IA) no local de trabalho. Com o rápido desenvolvimento da tecnologia de IA, sua incorporação em várias facetas do emprego tornou-se mais difundida. A EEOC observa que a implantação inadequada de IA pode violar o Título VII, a legislação federal antidiscriminação, em áreas como contratação, retenção de funcionários, promoção, transferência, monitoramento de desempenho, rebaixamento ou encerramento de contratos. Considerando a orientação mais recente da EEOC sobre IA, examinaremos cinco questões cruciais que os empregadores precisam estar cientes neste post.

O uso de IA pode violar a lei do local de trabalho

Os empregadores devem usar cautela ao integrar a IA em seus processos de contratação, de acordo com a EEOC. Sistemas de IA implementados incorretamente correm o risco de violar o Título VII, que proíbe a discriminação no local de trabalho baseada em coisas como raça, cor, religião, sexo e origem nacional. O uso de IA durante o processo de contratação ou durante o relacionamento de emprego pode causar uma violação do Título VII em algumas circunstâncias, de acordo com a EEOC. Exemplos dessas ferramentas incluem scanners de currículos, "assistentes virtuais" ou "chatbots", software para entrevistas em vídeo, testes e monitoramento de pessoal. Os empregadores garantem que essas ferramentas de IA sejam desenvolvidas e usadas de forma a evitar viés ou discriminação.

Como a "regra dos quatro quintos" ajuda a avaliar seleções de IA

A aplicação da "regra dos quatro quintos" às seleções de IA também é destacada nas recomendações da EEOC. Para avaliar a discriminação potencial no emprego, os estatísticos usam a regra dos quatro quintos. Ela contrasta a taxa de seleção de um grupo com a taxa de seleção do grupo com a maior taxa de seleção, como uma determinada raça ou gênero. Quando a taxa de seleção de um grupo protegido é inferior a quatro quintos (ou 80%) da taxa de seleção do grupo com a maior taxa, pode ocorrer discriminação por efeito disparate. Esta regra pode ser usada para encontrar qualquer preconceito ou discriminação potencial contra grupos protegidos em processos de seleção baseados em IA.

A EEOC incentiva os empregadores a fazerem autoavaliações para garantir a justiça

A EEOC aconselha fortemente as empresas a realizarem autoavaliações proativas de seus sistemas de IA para evitar violar os critérios de efeito disparate. As autoavaliações avaliam como as ferramentas de IA afetam vários grupos demográficos e procuram por quaisquer desigualdades ou vieses que possam existir. Os empregadores podem encontrar e corrigir quaisquer padrões discriminatórios antes que resultem em problemas legais ao realizar essas auditorias. Uma empresa pode demonstrar seu compromisso com a igualdade de oportunidades de emprego e reduzir o risco implementando um procedimento abrangente de autoavaliação.

Problemas causados por fornecedores de IA recaem sobre os ombros dos empregadores

Os empregadores são lembrados pela orientação da EEOC de que são responsáveis pelos atos e resultados de seus fornecedores de IA. O empregador será responsável por quaisquer violações subsequentes do Título VII se um sistema de IA adquirido de um fornecedor levar a comportamentos discriminatórios. Os empregadores devem usar cautela ao escolher fornecedores de IA, garantindo que seus sistemas estejam em conformidade com os requisitos legais e regulatórios do local de trabalho. Além disso, cláusulas que abordam questões discriminatórias potenciais e estabelecem a responsabilidade do fornecedor por quaisquer efeitos negativos resultantes de suas tecnologias de IA devem ser incluídas em acordos contratuais com os fornecedores.

A orientação da EEOC reflete uma tendência crescente

A orientação mais recente da EEOC sobre IA faz parte de uma tendência maior de maior escrutínio do uso de tecnologia no local de trabalho. Os órgãos reguladores estão se tornando mais conscientes dos perigos e das repercussões inesperadas que a IA pode apresentar à medida que se desenvolve e é integrada às práticas de trabalho. Esta orientação envia uma mensagem clara e óbvia aos empregadores de que eles precisam colocar a ética em primeiro lugar e garantir que os sistemas de IA sejam desenvolvidos e usados de forma a respeitar a igualdade de oportunidades e prevenir a discriminação. Enfatiza a necessidade de as empresas acompanharem as leis em mudança e as melhores práticas profissionais em torno do uso de IA, pois o fracasso em fazê-lo pode expô-las a responsabilidades e prejudicar sua reputação. Os empregadores devem encontrar um equilíbrio à medida que a paisagem tecnológica muda entre aproveitar os benefícios da IA e proteger contra quaisquer resultados discriminatórios, a fim de manter um local de trabalho equitativo e inclusivo para todos os trabalhadores.

Garantindo justiça e conformidade com a IA

A orientação mais recente da EEOC sobre IA no local de trabalho destaca os riscos da implementação inadequada de IA e a importância de práticas justas. Os empregadores devem abordar possíveis disparidades nas seleções de IA e responsabilizar os fornecedores por quaisquer resultados discriminatórios. Esta orientação reflete uma tendência mais ampla de maior escrutínio regulatório da tecnologia no local de trabalho. Os empregadores precisam realizar proativamente autoavaliações dos sistemas de IA, priorizar considerações éticas e manter-se informados para garantir a conformidade e promover a inclusão. Equilibrar os benefícios da IA e as oportunidades iguais é essencial para navegar pela paisagem em evolução e criar um ambiente de trabalho justo.