Grandes empresas de tecnologia em dificuldade devido à Lei de IA da Califórnia

Grandes empresas de tecnologia expressaram fortes objeções contra a lei de IA da Califórnia, no entanto, sem sucesso, pois os legisladores já estão programados para votar na conta que terá influência sobre como a IA é produzida e usada no estado.

A conta conhecida como SB 1047 foi avançada pelo Senador Estadual Scott Wiener e levanta questões com as quais as empresas não estão felizes, embora ainda estejam interessadas na regulamentação para a indústria.

Conta autoriza o procurador-geral a litigar por não conformidade

Entre as muitas questões espinhosas, a conta solicitará testes de segurança para vários modelos de IA, que exigem mais de US$ 100 para desenvolver ou precisam de uma quantidade definida de poder de computação, de acordo com um relatório da Reuters. Esta é uma das razões pelas quais a conta enfrentou críticas intensas de outros legisladores e entusiastas de tecnologia no Vale do Silício.

Outro fator é que os criadores de software de IA usados no estado são obrigados a fornecer instruções sobre como desativar seus modelos de IA, essencialmente um interruptor de desligamento em caso de mau funcionamento.

A conta também autoriza o procurador-geral do estado a litigar, caso os criadores da IA falhem em cumprir. Isso se refere especificamente a casos de uma ameaça contínua, por exemplo, se a IA assumir o controle de serviços governamentais, como a rede elétrica.

De acordo com o relatório da Reuters, para avaliar seus processos de segurança e dar proteção adicional àqueles que se dispõem a expor o uso indevido de IA, a lei também exigiria que os desenvolvedores envolvessem auditores independentes.

A conta já passou pelo Senado e pela Assembleia do Estado na semana passada. Agora espera-se que o final da sessão legislativa, que é 31 de agosto, determine se a conta passa. O governador Gavin Newsom deve assinar a conta ou vetá-la até 30 de setembro, se passar.

Reações mistas de grandes empresas de tecnologia e legisladores

Um representante de São Francisco, Weiner, destacou a necessidade de regular a indústria para proteger o público, antes que a tecnologia de IA se torne incontrolável.

Mas os democratas do Congresso na Califórnia, incluindo Nancy Pelosi e Ro Khanna, estão se opondo à conta, com a primeira dizendo que a conta foi mal informada. Pelosi disse ainda que a conta faz menos bem ao estado, expressando temores de que causaria mais dano.

Há também temores dos democratas de que a lei possa forçar os desenvolvedores a sair do estado, colocando em risco modelos de IA de código aberto que dependem do código publicamente disponível que qualquer pessoa pode usar ou alterar.

O Google da Alphabet e a Meta levantaram preocupações sobre o projeto de lei, argumentando que ele ameaçará as inovações em IA. Eles enviaram cartas a Weiner expressando suas preocupações. Yann LeCun, cientista-chefe da empresa-mãe do Facebook, disse em seu post de julho no X que a lei poderia ser prejudicial aos esforços de pesquisa.

Por outro lado, a OpenAI afirmou que a IA deve ser regulamentada pelo governo federal, acrescentando que o SB 1047 cria um ambiente pouco claro para o desenvolvimento de IA.