Projeto de lei de regulamentação de IA da Califórnia avança para a mesa do Governador
- A Assembleia da Califórnia aprovou um projeto de lei que exige que os desenvolvedores de modelos de IA incorporem um 'interruptor de desligamento' para fins de segurança.
- O projeto de lei foi apoiado por especialistas em IA, mas enfrenta oposição devido às preocupações com restrições à inovação e à pesquisa acadêmica.
- O Governador da Califórnia, Gavin Newsom, deve aprovar o projeto de lei e torná-lo lei ou rejeitá-lo até 30 de setembro.
Um projeto de lei altamente debatido que regula a inteligência artificial (IA) superou um obstáculo significativo na legislatura da Califórnia. A SB-1047, um projeto de lei que visa regular grandes modelos de IA para segurança, foi aprovado pela Assembleia Estadual da Califórnia com 45 votos a favor e 11 contra.
O projeto de lei, que foi aprovado pelo Senado do estado em maio com um voto de 32–1, deve passar por mais uma votação processual no Senado antes de ser enviado para a assinatura do Governador Gavin Newsom.
Especialistas em IA apoiam o projeto de lei para abordar ameaças potenciais da IA
A SB-1047 exige que os desenvolvedores de IA em grande escala treinados por um custo superior a US$ 100 milhões incorporem um ‘interruptor de desligamento’ que desliga a IA caso ela desenvolva efeitos adversos no público. Esta abordagem é particularmente relevante em casos em que um sistema de IA precisa funcionar com intervenção humana mínima, e cenários de pior caso podem ocorrer.
Os apoiadores da aprovação do projeto de lei afirmam que, como as tecnologias avançadas de IA estão se tornando mais autossuficientes, este projeto de lei é necessário para abordar os riscos que vêm com isso. O autor do projeto de lei e o Senador Estadual Scott Weiner apontou que personalidades como Geoffrey Hinton e Yoshua Bengio, especialistas líderes em IA, expressaram preocupações sobre as ameaças potenciais que a IA pode trazer.
No ano passado, Hinton e Bengio estavam entre os signatários de uma declaração que dizia que, se a IA não for controlada adequadamente, ela poderia levar à extinção humana.
Críticos expressam preocupações sobre o impacto do Projeto de Lei na inovação
No entanto, a SB-1047 encontrou muitas críticas de apoiadores da pesquisa e negócios de IA. Alguns argumentaram que este projeto de lei está mais preocupado com riscos que podem surgir no futuro do que com a concentração nos atuais, como deepfakes e notícias falsas.
Fei-Fei Li, Diretora do Instituto de IA Centrada no Humano de Stanford, tem sido vocal contra o projeto de lei. De acordo com Li, em seu editorial recente, a legislação é uma ameaça à inovação porque os desenvolvedores têm muita exposição à responsabilidade. Ela observou que isso poderia desencorajar o compartilhamento de modelos de IA e pesos no formato de código aberto, que são essenciais para acadêmicos e colaboração.
Líderes empresariais da Califórnia assinaram uma carta aberta pedindo a Newsom que vetasse o projeto de lei, que eles disseram ser “fundamentalmente defeituoso”. Com a SB-1047 se aproximando da promulgação, o Governador Gavin Newsom tem até 30 de setembro para aprovar o projeto de lei.
Em maio deste ano, em um simpósio na UC Berkeley, o governador Newsom concordou que a regulamentação adequada é uma linha tênue. Ele levantou preocupações de que o estado poderia ser colocado em uma “situação muito precária” devido à regulamentação excessiva. No entanto, Newsom também reconheceu a necessidade de regulamentação em certa medida, já que os representantes da indústria de IA levantaram certas questões.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Brenda Kanana
Brenda tem mais de 4 anos de experiência especializada em criptomoedas, inteligência artificial e tecnologias emergentes. Ela trabalhou na Zycrypto, Blockchain Reporter, The Coin Republic e agora faz do Cryptopolitan seu lar. Sua graduação em Sociologia pela Mombasa Technical University mantém-a alinhada com o pulso de seus leitores.
