O governador da Califórnia, Gavin Newsom, vetou projeto de lei sobre segurança da inteligência artificial

O governador da Califórnia, Gavin Newsom, vetou um polêmico projeto de lei sobre inteligência artificial (IA), alegando que ele sufocaria a inovação e não protegeria o público das preocupações "reais" relacionadas à tecnologia. Os defensores do projeto argumentam que ele teria criado algumas das primeiras regulamentações nacionais sobre modelos de IA em larga escala e aberto caminho para leis nacionais de segurança da IA.

Em 30 de setembro, Newsom rejeitou o projeto de lei SB 1047, também conhecido como Lei de Inovação Segura e Protegida para Modelos de Inteligência Artificial de Fronteira, após recebertronoposição do Vale do Silício. O projeto recomendava testes de segurança obrigatórios para modelos de IA e outras salvaguardas, que as gigantes da tecnologia temiam que pudessem prejudicar a inovação.

Newsom argumentou que o projeto de lei se concentrava demais na regulamentação das principais empresas de IA , enquanto deixava de proteger o público dos perigos "reais" representados pela nova tecnologia.

Ele disse:

Em vez disso, o projeto de lei aplica padrões rigorosos até mesmo às funções mais básicas — desde que um sistema de grande porte o implemente. Não acredito que essa seja a melhor abordagem para proteger o público das ameaças reais representadas pela tecnologia.

– Gavin Newsom

Senador critica veto, classificando-o como um retrocesso para a segurança pública

O senador estadual democrata Scott Weiner, autor do projeto de lei, descreveu a rejeição como um revés para todos que acreditam na supervisão de grandes corporações que tomam decisões cruciais que afetam a segurança pública, o bem-estar e o futuro do planeta. 

O projeto de lei SB 1047 exigiria que desenvolvedores, incluindo grandes empresas como OpenAI, Meta e Google, implementassem um mecanismo de desativação automática para seus modelos de inteligência artificial e desenvolvessem planos para mitigar riscos extremos. Além disso, o projeto permitiria que o procurador-geral do estado processasse desenvolvedores de IA em casos nos quais seus modelos representassem ameaças contínuas, como uma tomada de controle da rede elétrica por inteligência artificial.

Este projeto de lei visava especificamente sistemas cujo desenvolvimento custasse mais de 100 milhões de dólares e que exigissem grande poder de processamento. Nenhum modelo atual de inteligência artificial atingiu esse patamar, mas alguns especialistas afirmam que isso pode mudar no próximo ano.

Newsom defende regulamentações de IA baseadas na ciência em meio à controvérsia sobre o projeto de lei de segurança 

Newsom afirmou ter consultado especialistas renomados em segurança de IA para ajudar a Califórnia a criar regulamentações eficazes que priorizem uma análise científica dos riscos potenciais do desenvolvimento de IA. Ele enfatizou que seu governo continuará a pressionar por protocolos de segurança robustos, insistindo que os órgãos reguladores não devem esperar por uma grande catástrofe para agir.

Apesar de ter vetado o projeto de lei SB 1047, Newsom destacou que sua administração sancionou mais de 18 projetos de lei relacionados à regulamentação da IA ​​no último mês.

Antes da decisão de Newsom, o projeto de lei era impopular entre políticos, consultores e grandes empresas de tecnologia. A presidente da Câmara dos Representantes, Nancy Pelosi, e empresas como a OpenAI afirmaram que ele prejudicaria significativamente o avanço da inteligência artificial.

O chefe de políticas de IA do Abundance Institute, Neil Chilson, alertou que, embora o projeto de lei vise principalmente modelos que custem mais de US$ 100 milhões, seu escopo poderia ser facilmente ampliado para atingir também desenvolvedores menores. 

No entanto, algumas pessoas estão abertas ao projeto de lei. O bilionário Elon Musk, que está construindo seu próprio modelo de inteligência artificial chamado "Grok", é um dos poucos pesos-pesados ​​da tecnologia que apoiam a medida e leis mais abrangentes sobre IA. Em uma publicação de 26 de agosto no X, Musk afirmou que a Califórnia provavelmente deveria aprovar o projeto de lei SB 1047 sobre segurança da IA, mas admitiu que apoiar o projeto foi uma "decisão difícil".