Alvoroço no setor de tecnologia da Califórnia sobre proposta de lei de IA

Empresas de IA baseadas na Califórnia estão protestando contra a nova lei de IA que impõe controles mais rigorosos ao setor e potencialmente sufoca a inovação. A lei proposta obriga as empresas a aderir a uma estrutura de segurança rigorosa. Isso incluirá a criação de um "interruptor de desligamento" para desligar seus poderosos modelos de IA, à medida que a batalha para controlar o setor se intensifica.  

 Também leia: Enfrentando a Ameaça da IA Enganosa: Pesquisadores Emitem Alerta Urgente

Algumas medidas propostas no projeto de lei podem impactar negativamente empresas de tecnologia como a Meta, enquanto também criarão restrições para startups de IA como OpenAI, Anthropic e Cohere.

O senado estadual aprovou o projeto de lei no mês passado e agora está programado para votação na sua assembleia geral em agosto deste ano.

O projeto de lei da Califórnia ameaça os modelos de IA de código aberto

De acordo com a arstechnica, as grandes empresas de tecnologia devem garantir que nunca criarão modelos que sejam prejudiciais à sociedade, como armas nucleares ou que auxiliem em ciberataques.

No entanto, o projeto de lei proposto está recebendo uma reação negativa de algumas partes interessadas do setor, argumentando que isso tem um efeito em cascata sobre as startups, que podem ser forçadas a deixar o estado. Isso também pode impedir grandes empresas como a Meta de disponibilizar seus modelos como código aberto.

“Se alguém quisesse criar regulamentações para sufocar a inovação, dificilmente poderia fazer melhor”, disse Andrew Ng, um cientista da computação que liderou projetos de IA no Google e na Baidu da China, e que faz parte do conselho da Amazon.

“Isso cria enormes responsabilidades por riscos de ficção científica, alimentando o medo em qualquer um que ouse inovar.”

Arun Rao, gerente de produto principal de IA generativa na Meta, disse que a lei "inviável" "acabaria com o código aberto (na Califórnia)."

Os protestos são esperados, segundo o Senador Wiener

O senador estadual democrata Scott Wiener, que apresentou o projeto de lei, ignorou as críticas. Embora enfrentando uma reação negativa por ser excessivamente restritivo, o legislador indicou que os protestos não eram nada novos, vindo do setor de tecnologia.

“Este é o setor de tecnologia, ele não gosta de ter nenhuma regulamentação, então não é surpreendente para mim que haja resistência.”

Senador Scott Wiener.

“Fundamentalmente, quero que a IA tenha sucesso e que a inovação continue, mas vamos tentar ficar à frente de quaisquer riscos de segurança”, disse ele.

A organização sem fins lucrativos baseada em São Francisco Center for AI Safety (CAIS), liderada por Dan Hendrycks, co-patrocinou a lei da Califórnia.

Também leia: “Padrinho da IA” Quer Renda Básica Universal para Perdas de Emprego Causadas pela IA

Hendrycks apoiou o projeto de lei, dizendo que ele poderia ajudar a resolver um dos problemas do setor – cortar custos em um momento em que as pessoas também querem “alguma supervisão básica.”

“Existem essas pressões competitivas que estão afetando essas organizações de IA, incentivando-as a cortar custos na segurança.”

O setor de IA experimentou um crescimento rápido, o que também levantou preocupações sobre a segurança da tecnologia. No ano passado, o bilionário da tecnologia Elon Musk chamou a IA de "ameaça à humanidade."

Reportagem do Cryptopolitan por Enacy Mapakame