Colorado lidera iniciativa na regulamentação da IA ​​para combater a discriminação

O Colorado assumiu a liderança na regulamentação de sistemas de inteligência artificial que influenciam decisões de contratação, moradia e saúde. Sete projetos de lei foram propostos, sendo que um já foi aprovado, com o objetivo de regulamentar a abordagem tendenciosa da IA ​​na tomada de decisões importantes. 

Leia também: Comitê Consultivo Nacional de IA é formado para tratar da regulamentação da IA

Apesar da oposição, o governador do Colorado, Jared Polis, sancionou o projeto de lei na sexta-feira, embora com alguma hesitação. A lei obriga as organizações a avaliarem o risco de discriminação por parte da inteligência artificial, a estabelecerem programas de monitoramento e a notificarem os consumidores caso a IA esteja envolvida na tomada de decisões.

Colorado adota, ainda que a contragosto, lei de responsabilização da IA

O projeto de lei do Colorado, semelhante aos de Washington e Connecticut, não foi bem recebido por grupos de direitos civis, pela indústria de tecnologia, por legisladores cautelosos e por governadores preocupados. Esses projetos de lei buscam combater o viés da IA ​​em áreas críticas como emprego, moradia e saúde.

Houve muita resistência aos apelos por regulamentação devido à complexidade da tecnologia e à possibilidade de limitar seu desenvolvimento. O governador Polis também expressou preocupação com o projeto de lei, enfatizando que ele não deveria sufocar o desenvolvimento da IA. 

Projeto de lei exige avaliações de viés em IA e notificações aos clientes

A legislação do Colorado, assim como seis projetos de lei semelhantes, exige que as organizações avaliem o potencial de viés dos sistemas de IA. Algumas empresas que utilizam IA em suas operações são obrigadas a notificar os clientes sempre que decisões importantes que os envolvam forem tomadas por IA. Essa abordagem visa aumentar a transparência e a responsabilidade das aplicações de IA.

Leia também: Regulamentação da IA ​​gera debate entre gigantes da tecnologia e órgãos reguladores

A iniciativa surge em meio a discussões legislativas mais amplas, com mais de 400 projetos de lei relacionados à IA neste ano. Esses projetos se concentram principalmente em aspectos específicos da IA, como deepfakes e pornografia gerada por IA. Esses sete projetos ambiciosos focam na discriminação, uma das preocupações mais desafiadoras e universais da IA. 

Rumman Chowdhury, especialista em inteligência artificial do Departamento de Estado dos EUA, afirmou:

“Na verdade, não temos visibilidade alguma sobre os algoritmos que são usados, se funcionam ou não, ou se somos discriminados.”

A discriminação por IA espreita em contratações, habitação e saúde

A legislação atual contra a discriminação não abrange adequadamente as questões decorrentes do uso da IA. Christine Webber, advogada de direitos civis, destacou que a IA pode amplificar o preconceito em uma escala muito maior do que a tomada de decisão por um único indivíduo.

“Não que os sistemas antigos fossem completamente isentos de viés, devo dizer; uma pessoa só conseguia analisar um número limitado de currículos por dia. Portanto, só era possível tomar um número limitado de decisões tendenciosas em um único dia, enquanto o computador consegue fazer isso rapidamente, abrangendo um grande número de pessoas.”

Christine Webber

Leia também: União Europeia (UE) assume a liderança na regulamentação da IA

O caso de Webber é um exemplo perfeito de como a IA pode dar vida à discriminação, com um caso acusando uma ferramenta de IA para aplicativos de aluguel de atribuir pontuações mais baixas a indivíduos negros e hispânicos. Essa questão também afeta a área médica, onde se observou que sistemas de IA negam atendimento especializado a pacientes negros com base em avaliações distorcidas. O projeto de lei do Colorado busca abordar essas preocupações por meio da análise anual de sistemas de IA em busca de viés, regulamentação interna e comunicação de resultados discriminatórios ao procurador-geral do estado. 

Empresas resistem à transparência, temendo a exposição de segredos comerciais

Embora a intenção do projeto de lei seja promover a transparência e a responsabilidade, existem algumas preocupações no setor de IA. Enquanto grandes empresas de IA tendem a aprovar tais medidas, empresas de pequeno porte as consideram potencialmente complexas demais. O fundador da Thumper.ai, Logan Cerkovnik, afirmou que,

“Ter uma legislação excessivamente restritiva que nos force a defie limite o uso da tecnologia enquanto esta está em formação só será prejudicial à inovação.”

As empresas de IA também conseguiram incluir uma cláusula que impede que qualquer pessoa, exceto o procurador-geral do estado, processe a lei. A ação do estado do Colorado ocorre em um momento em que o Congresso americano analisa normas federais para IA. O Congresso ainda não aprovou nenhum projeto de lei que regulamente a IA, mas o líder da maioria no Senado, Chuck Schumer, divulgou um relatório na semana passada com diretrizes para a regulamentação da IA.

Reportagem Cryptopolitan de Brenda Kanana