Projeto de lei sobre regulamentação de IA na Califórnia avança para a mesa do governador

Um projeto de lei bastante debatido que regulamenta a inteligência artificial (IA) superou um obstáculo significativo na Assembleia Legislativa da Califórnia. O projeto de lei SB-1047, que visa regulamentar grandes modelos de IA para garantir a segurança, foi aprovado pela Assembleia Legislativa da Califórnia com 45 votos a favor e 11 contra. 

O projeto de lei, que foi aprovado pelo Senado estadual em maio por 32 votos a 1, deverá passar por mais uma votação processual no Senado antes de ser enviado para a assinatura do governador Gavin Newsom. 

Especialistas em IA apoiam projeto de lei para lidar com potenciais ameaças da IA

de lei SB-1047 exige que os desenvolvedores de IA em larga escala, treinada a um custo superior a US$ 100 milhões, incorporem um "interruptor de segurança" que desligue a IA caso ela apresente efeitos adversos sobre o público. Essa abordagem é particularmente relevante em casos nos quais um sistema de IA precisa funcionar com mínima intervenção humana e cenários catastróficos podem ocorrer. 

Os defensores da aprovação do projeto de lei argumentam que, como as tecnologias avançadas de IA estão se tornando mais autônomas, essa lei é necessária para lidar com os riscos que as acompanham. O autor do projeto e senador estadual Scott Weiner destacou que personalidades como Geoffrey Hinton e Yoshua Bengio, especialistas renomados em IA, expressaram preocupação com as potenciais ameaças que a IA pode trazer.

No ano passado, Hinton e Bengio estavam entre os signatários de uma declaração que afirmava que, se a IA não for devidamente controlada, poderá levar à extinção da humanidade. 

Críticos expressam preocupação com o impacto do projeto de lei na inovação

No entanto, o projeto de lei SB-1047 foi alvo de muitas críticas por parte de defensores da pesquisa e dos negócios em IA. Alguns argumentam que esse projeto se preocupa mais com os riscos futuros do que com os atuais, como deepfakes e notícias falsas. 

Fei-Fei Li, diretora do Instituto de Inteligência Artificial Centrada no Ser Humano de Stanford, tem se manifestado veementemente contra o projeto de lei. Segundo Li, em um editorial recente, a legislação representa uma ameaça à inovação, pois expõe os desenvolvedores a altos riscos de responsabilidade. Ela observou que isso poderia desestimular o compartilhamento de modelos e pesos de IA em formato de código aberto, essenciais para a academia e a colaboração.

Líderes empresariais da Califórnia assinaram uma carta aberta pedindo a Newsom que vetasse o projeto de lei, que, segundo eles, era "fundamentalmente falho". Com o projeto de lei SB-1047 prestes a ser promulgado, o governador Gavin Newsom tem até 30 de setembro para aprová-lo.

Em maio deste ano, em um simpósio na UC Berkeley, o governador Newsom concordou que a regulamentação adequada é uma linha tênue. Ele expressou preocupação com a possibilidade de o estado ser colocado em uma "situação muito precária" devido ao excesso de regulamentação. No entanto, Newsom também reconheceu a necessidade de regulamentação até certo ponto, visto que os representantes da indústria de IA levantaram algumas questões.