Nova York aprova projeto de lei para limitar desastres catastróficos causados por falhas na IA
Owotunse Adebayo
3 min de leitura
- Nova York aprovou uma lei para limitar laboratórios de IA como OpenAI, Google e Anthropic a contribuir para cenários de desastre.
- A proposta segue para o governador do Estado de Nova York, que terá a palavra final.
- Os laboratórios de IA expressam suas preocupações sobre a lei, alertando que ela pode representar riscos para empresas menores.
Legisladores em Nova York aprovaram um projeto de lei para limitar desastres causados pela inteligência artificial. De acordo com o projeto de lei, o estado deseja impedir que modelos de IA criados por empresas como OpenAI, Google e Anthropic contribuam para cenários de desastre.
De acordo com o projeto de lei, esses cenários incluem a morte ou lesão de mais de 100 pessoas ou mais de US$ 1 bilhão em danos ou perdas. O projeto de lei, conhecido como RAISE Act, representa uma vitória para os movimentos que defendem a segurança da IA. Os movimentos perderam força nos últimos anos à medida que o Vale do Silício e a administração Trump continuaram a priorizar velocidade e inovação.
Defensores focados na segurança, incluindo o laureado com o Nobel Geoffrey Hinton e o pioneiro em pesquisa de IA Yoshua Bengio, estão por trás do RAISE Act. Se eventualmente for sancionado como lei, o projeto de lei estabelecerá o primeiro conjunto de padrões de transparência legalmente obrigatórios para os principais laboratórios de inteligência artificial nos Estados Unidos da América.
Nova York considera RAISE Act para limitar desastres alimentados por IA
O RAISE Act tem algumas das mesmas disposições e objetivos do controverso projeto de lei de segurança de IA SB 1047 na Califórnia, que acabou sendo vetado.
No entanto, um co-patrocinador do RAISE Act, o senador do Estado de Nova York Andrew Gounardes, mencionou em uma entrevista que projetou o projeto de lei de uma maneira que não sufoca a inovação entre startups ou pesquisadores acadêmicos, uma crítica comum que o SB 1047 enfrentou. “A janela para estabelecer salvaguardas está diminuindo rapidamente, dada a rapidez com que essa tecnologia está evoluindo”, disse o senador Gounardes.
O senador também disse que a maioria das pessoas bem versadas no setor de IA também reconheceu esses riscos, um desenvolvimento que ele chamou de “alarmante”. Enquanto isso, o RAISE Act agora está a caminho da mesa do governador de Nova York, Kathy Hochul, onde ela pode sancioná-lo como lei ou devolvê-lo para emenda. Outra opção seria ela vetar o projeto de lei, o que é provável.
Se eventualmente for sancionado como lei, o RAISE Act exigirá que alguns dos maiores laboratórios de IA do mundo publiquem relatórios de segurança e segurança sobre seus modelos de IA de fronteira. O projeto de lei também obriga os laboratórios de IA a relatar incidentes de segurança relacionados ao comportamento do modelo de IA ou a atores mal-intencionados que roubam um modelo de IA, se isso acontecer.
Se as empresas de tecnologia não cumprirem esses padrões, o RAISE Act autoriza o procurador-geral de Nova York a impor penalidades civis de até US$ 30 milhões contra elas.
RAISE Act busca regular laboratórios de IA
O RAISE Act foi projetado para regular as maiores empresas de IA globalmente, incluindo aquelas baseadas na Califórnia, como OpenAI e Google, e aquelas baseadas na China, como DeepSeek e Alibaba. Os requisitos do projeto de lei incluem uma cláusula obrigatória que se aplica a empresas que usaram mais de US$ 100 milhões em recursos de computação para treinar seus modelos de IA e estão disponíveis para residentes em Nova York.
Embora semelhante ao SB 1047 em alguns aspectos, o RAISE Addressa alguns dos projetos de lei anteriores de segurança de IA.
Por exemplo, nenhuma cláusula exige que os desenvolvedores de modelos de IA tenham um interruptor de emergência em seus modelos, nem responsabiliza as empresas que realizam pós-treinamento de seus modelos por danos críticos. No entanto, houve resistência ao projeto de lei de Nova York, de acordo com o co-patrocinador do RAISE Act, o membro da Assembleia do Estado de Nova York, Alex Bores. Ele chamou a resistência de previsível, mas acrescentou que o RAISE Act não limitará o poder de desenvolvimento das empresas de tecnologia de forma alguma.
“O RAISE Act de NY é mais um estúpido, estúpido projeto de lei de IA em nível estadual que só prejudicará os EUA em um momento em que nossos adversários estão correndo à frente”, disse Anjney Midha, sócio geral da Andreessen Horowitz, em uma postagem na sexta-feira no X.
A Andreessen Horowitz e a incubadora de startups Y Combinator se opuseram ferozmente ao SB 1047. Além disso, o co-fundador da Anthropic, Jack Clark, também compartilhou suas queixas sobre o quão amplo é o RAISE Act, observando que ele poderia apresentar riscos a empresas menores.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Owotunse Adebayo
Adebayo é um escritor com quatro anos de experiência no espaço cripto. Formou-se pela Universidade de Lagos, onde estudou Planejamento Urbano e Regional. Adebayo trabalhou na Tokenhell e na CryptoTicker, escrevendo notícias sobre criptomoedas e Fintech. Atualmente, é colaborador de notícias da Cryptopolitan.
