Tentativa de Nova York de Combater o Viés de IA na Contratação Falha, Estagnando Iniciativas Globais
- A Lei Local 144 de Nova York (LL144), destinada a abordar vieses em algoritmos de contratação por IA, prova-se largamente ineficaz, com apenas uma fração dos empregadores cumprindo seus requisitos de auditoria e transparência.
- Um estudo recente da Universidade Cornell, Consumer Reports e do Data & Society Research Institute destaca falhas significativas na LL144, revelando que ela concede discricionariedade excessiva aos empregadores e falha em impor ações significativas contra resultados discriminatórios.
- O fracasso da LL144 tem repercussões além de sua jurisdição, pois outras regiões reconsideram leis semelhantes, dificultando os esforços globais para regular o viés de IA nas decisões de emprego.
Em uma tentativa de lidar com o problema persistente do viés de IA na contratação, a cidade de Nova York implementou a Lei Local 144 (LL144) em 2021, exigindo que os empregadores realizem auditorias anuais de ferramentas automatizadas de decisão de emprego (AEDTs) quanto a viés racial e de gênero. No entanto, um estudo recente conduzido por pesquisadores da Universidade de Cornell, Consumer Reports e do Instituto de Pesquisa Data & Society descobriu falhas graves na eficácia da lei. O estudo, ainda não publicado oficialmente, mas compartilhado com The Register, revela estatísticas alarmantes, indicando uma falta marcante de conformidade entre os empregadores sujeitos à LL144.
A realidade da ineficácia da LL144 para o viés de IA
Vamos analisar os detalhes da lei LL144 e as descobertas do estudo. Torna-se evidente que, apesar de suas boas intenções, a LL144 carece de força para obrigar os empregadores a abordar o viés de IA de forma eficaz. O amplo escopo da lei permite aos empregadores considerável discricionariedade para determinar se seus sistemas se enquadram sob sua jurisdição. Chocantemente, dos 391 empregadores amostrados, apenas 18 publicaram os relatórios de auditoria exigidos, e meros 13 incluíram avisos de transparência em suas vagas de emprego.
O co-autor do estudo, Jacob Metcalf, da Data & Society, apontou as deficiências da LL144, enfatizando que ela concede muita discricionariedade aos empregadores. Notavelmente, a lei não exige ações corretivas se as auditorias revelarem resultados discriminatórios, deixando os empregadores vulneráveis a caros processos civis. Os pesquisadores também destacaram a experiência dos auditores que revisaram as AEDTs usadas por empresas de NYC, descobrindo casos em que os empregadores optaram por não divulgar os resultados das auditorias com números desfavoráveis devido a preocupações legais.
Ramificações globais
O fracasso da tentativa de Nova York de combater o viés de IA tem efeitos em cascata em iniciativas semelhantes em todo o mundo. Legislações propostas em outras jurisdições, incluindo Califórnia, Distrito de Columbia e estado de Nova York, enfrentaram contratempos à medida que os legisladores reconsideram suas estruturas à luz das deficiências da LL144. Até mesmo a Lei de IA da União Europeia, embora acordada provisoriamente, enfrenta desafios na definição de regulamentações para a IA usada em processos de recrutamento.
Notavelmente, os problemas legais da empresa de software de RH Workday destacam a urgência de abordar o viés de IA. Apesar do sucesso limitado da LL144, os pesquisadores argumentam que a lei serve como uma experiência de aprendizado valiosa e um passo crucial em direção a uma melhor regulamentação. No entanto, eles enfatizam a necessidade de ampliar o escopo da legislação, instando futuras leis a abandonar a linguagem abstrata e fornecer definições mais claras, particularmente na determinação do que constitui o uso coberto do software AEDT.
Um apelo por legislação mais clara
Uma questão crítica sobre o futuro da regulamentação do viés de IA surge. Dadas as deficiências da LL144, quais lições podem ser extraídas para moldar uma legislação mais eficaz e abrangente globalmente? À medida que as discussões sobre o viés de IA continuam, a necessidade de definições mais claras, escopo mais amplo e medidas de aplicação rigorosas torna-se cada vez mais evidente. A jornada para regular a IA em decisões de contratação pode estar repleta de desafios, mas aprender com os erros da LL144 pode pavimentar o caminho para regulamentações mais robustas e impactantes no futuro.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
