Alvoroço no setor de tecnologia da Califórnia por causa de projeto de lei sobre IA

Empresas de IA da Califórnia estão protestando contra o novo projeto de lei que impõe controles mais rígidos ao setor e pode sufocar a inovação. O projeto de lei proposto obriga as empresas a aderirem a uma estrutura de segurança rigorosa. Isso inclui a criação de um mecanismo de desativação para desligar seus poderosos modelos de IA, à medida que a disputa pelo controle do setor se intensifica.  

 Leia também: Enfrentando a ameaça da IA ​​enganosa: pesquisadores emitem alerta urgente

Algumas medidas propostas no projeto de lei podem impactar negativamente empresas de tecnologia como a Meta, ao mesmo tempo que criarão restrições para startups de IA como a OpenAI, a Anthropic e a Cohere.

O Senado estadual aprovou o projeto de lei no mês passado e agora ele será votado pela Assembleia Geral em agosto deste ano.

O projeto de lei da Califórnia ameaça modelos de IA de código aberto

Segundo o site Ars Technica, as grandes empresas de tecnologia devem garantir que nunca criarão modelos prejudiciais à sociedade, como armas nucleares ou que auxiliem em ataques cibernéticos.

No entanto, o projeto de lei proposto está recebendo críticas de alguns participantes do setor, que argumentam que isso terá um efeito cascata sobre as startups, que podem ser forçadas a deixar o estado. Também pode impedir que grandes empresas como a Meta disponibilizem seus modelos em código aberto.

"Se alguém quisesse criar regulamentações para sufocar a inovação, dificilmente encontraria algo melhor", disse Andrew Ng, cientista da computação que liderou projetos de IA no Google e na Baidu, na China, e faz parte do conselho da Amazon.

“Isso cria enormes responsabilidades relacionadas a riscos de ficção científica e, portanto, alimenta o medo em qualquer pessoa que se atreva a inovar.”

Arun Rao, gerente de produto líder em IA generativa na Meta, disse que o projeto de lei "inviável" "acabaria com o código aberto (na Califórnia)".

Os protestos são esperados, de acordo com o senador Wiener

O senador estadual democrata Scott Wiener, autor do projeto de lei, minimizou as críticas. Apesar da reação negativa por ser considerado excessivamente restritivo, o legislador indicou que os protestos não eram novidade, vindos principalmente do setor de tecnologia.

“Este é o setor tecnológico, ele não gosta de regulamentação, então não me surpreende em nada que haja resistência.”

Senador Scott Wiener.

“Fundamentalmente, quero que a IA tenha sucesso e que a inovação continue, mas vamos tentar antecipar quaisquer riscos à segurança”, disse ele.

uma organização sem fins lucrativos sediada em São Francisco O Centro para a Segurança da IA ​​(CAIS), liderada por Dan Hendrycks, foi um dos coautores do projeto de lei na Califórnia.

Leia também: 'O Poderoso Chefão da IA' defende renda básica universal para compensar as perdas de empregos na área de IA

Hendrycks apoiou o projeto de lei, afirmando que ele poderia ajudar a resolver um dos problemas do setor: a negligência em um momento em que as pessoas também desejam "alguma fiscalização básica"

“Existem pressões competitivas que afetam essas organizações de IA e as incentivam a negligenciar a segurança.”

O setor de IA experimentou um crescimento rápido, o que também levantou preocupações sobre a segurança da tecnologia. No ano passado, o bilionário da tecnologia Elon Musk chamou a IA de "uma ameaça à humanidade".

Reportagem Cryptopolitan de Enacy Mapakame