A tentativa de Nova York de conter o viés da IA ​​nas contratações fracassa, sufocando iniciativas globais

Na tentativa de combater o problema persistente do viés da IA ​​na contratação, a cidade de Nova York implementou a Lei Local 144 (LL144) em 2021, exigindo que os empregadores auditem anualmente as ferramentas automatizadas de decisão de emprego (AEDTs) em busca de viés racial e de gênero. No entanto, um estudo recente conduzido por pesquisadores da Universidade Cornell, da Consumer Reports e do Data & Society Research Institute revelou falhas graves na eficácia da lei. O estudo, ainda não publicado oficialmente, mas compartilhado com o The Register, revela estatísticas alarmantes, indicando uma clara falta de conformidade entre os empregadores sujeitos à LL144.

A realidade da ineficácia da LL144 no combate ao viés da IA

Vamos analisar os detalhes da lei LL144 e as conclusões do estudo. Ficadent que, apesar das boas intenções, a LL144 não é eficaz para obrigar os empregadores a lidar com o viés da IA ​​de forma efetiva. O amplo escopo da lei permite aos empregadores uma considerável discricionariedade na determinação de se seus sistemas se enquadram em sua jurisdição. Surpreendentemente, dos 391 empregadores pesquisados, apenas 18 haviam publicado os relatórios de auditoria exigidos e meros 13 haviam incluído avisos de transparência em seus anúncios de emprego.

O coautor do estudo, Jacob Metcalf, da Data & Society, apontou as deficiências da LL144, enfatizando que ela concede muita discricionariedade aos empregadores. Notavelmente, a lei não exige ações corretivas caso as auditorias revelem resultados discriminatórios, deixando os empregadores vulneráveis ​​a custosos processos judiciais. Os pesquisadores também lançaram luz sobre a experiência de auditores que revisaram os AEDTs (Avaliações de Discriminação contra a Empresa) utilizados por empresas da cidade de Nova York, revelando casos em que os empregadores optaram por não divulgar resultados de auditoria com números desfavoráveis ​​devido a preocupações legais.

ramificações globais

O fracasso da tentativa de Nova York de conter o viés da IA ​​teve efeitos em cascata em iniciativas semelhantes em todo o mundo. Projetos de lei em outras jurisdições, incluindo Califórnia, Washington D.C. e o estado de Nova York, sofreram reveses, à medida que os legisladores reconsideram suas estruturas em função das deficiências da Lei Local 144. Até mesmo a Lei de IA da União Europeia, embora provisoriamente aprovada, enfrenta desafios na defide regulamentações para o uso de IA em processos de recrutamento.

Notavelmente, os problemas legais da empresa de software de RH Workday ressaltam a urgência de abordar o viés da IA. Apesar do sucesso limitado da LL144, os pesquisadores argumentam que a lei serve como uma valiosa experiência de aprendizado e um primeiro passo crucial para uma melhor regulamentação. No entanto, eles enfatizam a necessidade de ampliar o escopo da legislação, instando as leis futuras a abandonarem a linguagemtrace a fornecerem defimais claras, particularmente na determinação do que constitui uso abrangido pelo software AEDT.

Um apelo por uma legislação mais clara

Uma questão crucial sobre o futuro da do viés da IA ​​surge. Diante das deficiências da LL144, que lições podem ser extraídas para moldar uma legislação mais eficaz e abrangente em nível global? À medida que as discussões sobre o viés da IA ​​continuam, a necessidade de definições mais claras defium escopo mais amplo e medidas de fiscalização rigorosas torna-se cada vez maisdent. O caminho para regulamentar a IA em decisões de contratação pode ser repleto de desafios, mas aprender com os erros da LL144 pode abrir caminho para regulamentações mais robustas e impactantes no futuro.