Colorado Lidera o Esforço para Regular a IA para Combater a Discriminação

O Colorado assumiu a liderança na regulação de sistemas de inteligência artificial que influenciam contratações, habitação e decisões médicas. Sete projetos de lei foram propostos, com um já aprovado e sancionado, visando regular a abordagem tendenciosa da IA na tomada de decisões importantes. 

Leia também: Comitê Consultivo Nacional de IA Formado para Abordar a Regulamentação de IA

Apesar da oposição, o Governador do Colorado, Jared Polis, assinou hesitantemente o projeto de lei na sexta-feira. Este projeto obriga as organizações a avaliar o risco de discriminação por parte da IA, estabelecer programas de monitorização e notificar os consumidores se a IA estiver envolvida na tomada de decisões.

Colorado Adota Relutantemente a Lei de Responsabilidade da IA

O projeto de lei do Colorado, semelhante aos de Washington e Connecticut, não foi bem recebido por grupos de direitos civis, a indústria tecnológica, legisladores cautelosos e governadores preocupados. Estes projetos de lei buscam lidar com o viés da IA em áreas críticas como emprego, habitação e saúde.

Tem havido muita resistência aos apelos pela regulação devido à complexidade da tecnologia e à possibilidade de limitar o seu desenvolvimento. O Governador Polis também levantou preocupações sobre o projeto de lei, enfatizando que não deve sufocar o desenvolvimento da IA. 

Projeto de Lei Obriga Avaliações de Viés da IA e Notificações aos Clientes

A legislação do Colorado, e os seis projetos de lei semelhantes, exigem que as organizações avaliem o potencial viés dos sistemas de IA. Algumas das empresas que utilizam IA nas suas operações são obrigadas a notificar os clientes sempre que decisões significativas que os envolvem sejam tomadas pela IA. Esta abordagem visa melhorar a transparência e a responsabilidade das aplicações de IA.

Leia também: Regulamentação de IA Desperta Debate Entre Gigantes da Tecnologia e Reguladores

A iniciativa surge no meio de discussões legislativas mais amplas, com mais de 400 projetos de lei relacionados com IA este ano. Estes projetos de lei concentram-se principalmente em aspectos específicos da IA, como deepfakes e pornografia gerada por IA. Estes sete ambiciosos projetos de lei concentram-se na discriminação, uma das preocupações mais desafiadoras e universais da IA. 

Rumman Chowdhury, especialista em inteligência artificial do Departamento de Estado dos EUA, afirmou,

“Na verdade, não temos visibilidade sobre os algoritmos que são utilizados, se funcionam ou não, ou se estamos a ser discriminados.”

Discriminação por IA Espreita nas Contratações, Habitação e Saúde

A legislação atual contra a discriminação não cobre adequadamente as questões decorrentes do uso de IA. Christine Webber, advogada de direitos civis, apontou que a IA pode amplificar o preconceito a um nível muito maior do que um único tomador de decisões.

“Não, devo dizer, que os antigos sistemas eram perfeitamente livres de viés também; qualquer pessoa só podia analisar tantos currículos por dia. Assim, só podiam ser tomadas tantas decisões tendenciosas num dia, e o computador pode fazê-lo rapidamente através de grandes números de pessoas.”

Christine Webber

Leia também: União Europeia (UE) Lidera na Regulamentação de IA

O caso de Webber é um exemplo perfeito de como a IA pode trazer a discriminação para a vida, com um caso acusando uma ferramenta de IA para candidaturas de aluguer de dar pontuações mais baixas a indivíduos negros e hispânicos. Esta questão também afeta o campo médico, onde sistemas de IA foram observados a negar cuidados especiais a pacientes negros com base nas suas avaliações distorcidas. O projeto de lei do Colorado tenta abordar estas preocupações através de escrutínio anual dos sistemas de IA quanto ao viés, regulação interna e reporte de resultados discriminatórios ao procurador-geral do estado. 

Empresas Resistem à Transparência, Temendo Exposição de Segredos Comerciais

Embora a intenção do projeto de lei seja promover a transparência e a responsabilidade, há algumas preocupações entre a indústria de IA. Enquanto as grandes empresas de IA tendem a aprovar tais medidas, as empresas de pequena escala as veem como potencialmente demasiado complexas. O fundador da Thumper.ai, Logan Cerkovnik, afirmou que,

“Ter legislação excessivamente restritiva que nos força a definições e restringe o nosso uso de tecnologia enquanto esta está a ser formada vai apenas ser prejudicial para a inovação.”

As empresas de IA também prevaleceram na adição de uma cláusula para impedir que qualquer pessoa além do procurador-geral do estado processasse por causa da lei. A ação estatal no Colorado também ocorre enquanto o Congresso pondera regras federais de IA. O Congresso ainda não aprovou nenhum projeto de lei que regule a IA, mas o Líder da Maioria no Senado, Chuck Schumer, publicou um relatório na semana passada com diretrizes para a regulamentação da IA.

Reportagem Cryptopolitan por Brenda Kanana