Empresas de IA da Califórnia estão protestando contra o novo projeto de lei que impõe controles mais rígidos ao setor e pode sufocar a inovação. O projeto de lei proposto obriga as empresas a aderirem a uma estrutura de segurança rigorosa. Isso inclui a criação de um mecanismo de desativação para desligar seus poderosos modelos de IA, à medida que a disputa pelo controle do setor se intensifica.
Leia também: Enfrentando a ameaça da IA enganosa: pesquisadores emitem alerta urgente
Algumas medidas propostas no projeto de lei podem impactar negativamente empresas de tecnologia como a Meta, ao mesmo tempo que criarão restrições para startups de IA como a OpenAI, a Anthropic e a Cohere.
O Senado estadual aprovou o projeto de lei no mês passado e agora ele será votado pela Assembleia Geral em agosto deste ano.
O projeto de lei da Califórnia ameaça modelos de IA de código aberto
Segundo o site Ars Technica , as grandes empresas de tecnologia devem garantir que nunca criarão modelos prejudiciais à sociedade, como armas nucleares ou que auxiliem em ataques cibernéticos.
No entanto, o projeto de lei proposto está recebendo críticas de alguns participantes do setor, que argumentam que isso terá um efeito cascata sobre as startups, que podem ser forçadas a deixar o estado. Também pode impedir que grandes empresas como a Meta disponibilizem seus modelos em código aberto.
"Se alguém quisesse criar regulamentações para sufocar a inovação, dificilmente encontraria algo melhor", disse Andrew Ng, cientista da computação que liderou projetos de IA no Google e na Baidu, na China, e faz parte do conselho da Amazon.
“Isso cria enormes responsabilidades relacionadas a riscos de ficção científica e, portanto, alimenta o medo em qualquer pessoa que se atreva a inovar.”
Arun Rao, gerente de produto líder em IA generativa na Meta, disse que o projeto de lei "inviável" "acabaria com o código aberto (na Califórnia)".
Os protestos são esperados, de acordo com o senador Wiener
O senador estadual democrata Scott Wiener, autor do projeto de lei, minimizou as críticas. Apesar da reação negativa por ser considerado excessivamente restritivo, o legislador indicou que os protestos não eram novidade, vindos principalmente do setor de tecnologia.
“Este é o setor tecnológico, ele não gosta de regulamentação, então não me surpreende em nada que haja resistência.”
Senador Scott Wiener.
“Fundamentalmente, quero que a IA tenha sucesso e que a inovação continue, mas vamos tentar antecipar quaisquer riscos à segurança”, disse ele.
O Centro para a Segurança da IA (CAIS), uma organização sem fins lucrativos sediada em São Francisco liderada por Dan Hendrycks, foi um dos coautores do projeto de lei na Califórnia.
Leia também: 'O Poderoso Chefão da IA' defende renda básica universal para compensar as perdas de empregos na área de IA
Hendrycks apoiou o projeto de lei, afirmando que ele poderia ajudar a resolver um dos problemas do setor: a negligência em um momento em que as pessoas também desejam "alguma fiscalização básica"
“Existem pressões competitivas que afetam essas organizações de IA e as incentivam a negligenciar a segurança.”
O setor de IA experimentou um crescimento rápido, o que também levantou preocupações sobre a segurança da tecnologia. No ano passado, o bilionário da tecnologia Elon Musk chamou a IA de "uma ameaça à humanidade".
Reportagem Cryptopolitan de Enacy Mapakame
