Nova York aprova projeto de lei para limitar desastres catastróficos causados ​​por mau funcionamento de inteligência artificial

Legisladores de Nova York aprovaram um projeto de lei para limitar desastres causados ​​por inteligência artificial. De acordo com o projeto, o estado quer impedir que modelos de IA criados por empresas como OpenAI, Google e Anthropic contribuam para cenários de desastre.

De acordo com o projeto de lei, esses cenários incluem a morte ou ferimentos de mais de 100 pessoas ou mais de US$ 1 bilhão em danos ou prejuízos. O projeto de lei, conhecido como RAISE Act, representa uma vitória para os movimentos que defendem a segurança da IA. Esses movimentos perderam força nos últimos anos, à medida que o Vale do Silício e o governo Trump continuaram a priorizar a velocidade e a inovação.

Defensores da segurança, incluindo o ganhador do Prêmio Nobel Geoffrey Hinton e o pioneiro da pesquisa em IA Yoshua Bengio, estão por trás do RAISE Act. Se for sancionado, o projeto de lei estabelecerá o primeiro conjunto de padrões de transparência legalmente obrigatórios para os principais laboratórios de inteligência artificial nos Estados Unidos da América.

Nova York considera a Lei RAISE para limitar desastres causados ​​por inteligência artificial

A Lei RAISE possui algumas das mesmas disposições e objetivos que o controverso projeto de lei de segurança da IA, SB 1047, na Califórnia, que acabou sendo vetado.

No entanto, um dos coautores do RAISE Act, o senador estadual de Nova York Andrew Gounardes, mencionou em uma entrevista que elaborou o projeto de lei de forma a não sufocar a inovação entre startups ou pesquisadores acadêmicos, uma crítica comum enfrentada pelo SB 1047. "A janela de oportunidade para implementar medidas de proteção está se fechando rapidamente, dada a velocidade com que essa tecnologia está evoluindo", disse o senador Gounardes.

O senador também afirmou que a maioria das pessoas com conhecimento na área de IA reconheceu esses riscos, um desenvolvimento que ele classificou como “alarmante”. Enquanto isso, o RAISE Act está agora a caminho da mesa da governadora de Nova York, Kathy Hochul, que poderá sancioná-lo ou devolvê-lo para emendas. Outra opção seria o veto, o que é provável.

Se for sancionada, a Lei RAISE exigirá que alguns dos maiores laboratórios de IA do mundo publiquem relatórios de segurança sobre seus modelos de IA de ponta. O projeto de lei também obriga os laboratórios de IA a relataremdentde segurança relacionados ao comportamento de modelos de IA ou a ataques cibernéticos que roubem modelos de IA, caso ocorram.

Caso as empresas de tecnologia não cumpram esses padrões, a Lei RAISE autoriza o procurador-geral de Nova York a aplicar multas civis de até 30 milhões de dólares contra elas.

A Lei RAISE busca regulamentar os laboratórios de IA

A Lei RAISE foi criada para regulamentar as maiores empresas de IA do mundo, incluindo aquelas sediadas na Califórnia, como a OpenAI e o Google, e aquelas sediadas na China, como a DeepSeek e o Alibaba. Os requisitos da lei incluem uma cláusula obrigatória que se aplica a empresas que utilizaram mais de US$ 100 milhões em recursos computacionais para treinar seus modelos de IA e estão disponíveis para residentesdentNova York.

Embora semelhante ao SB 1047 em alguns aspectos, o RAISE Act aborda algumas das propostas de lei anteriores sobre segurança da IA.

Por exemplo, nenhuma cláusula exige que os desenvolvedores de modelos de IA incluam um mecanismo de desligamento automático em seus modelos, nem responsabiliza as empresas que realizam o pós-treinamento de seus modelos por danos críticos. Ainda assim, houve resistência ao projeto de lei de Nova York, segundo o coautor do RAISE Act, o deputado estadual Alex Bores. Ele considerou a resistência previsível, mas acrescentou que o RAISE Act não limitará de forma alguma a capacidade de desenvolvimento das empresas de tecnologia.

“O projeto de lei NY RAISE é mais uma proposta estúpida de IA em nível estadual que só prejudicará os EUA em um momento em que nossos adversários estão avançando rapidamente”, disse Anjney Midha, sócia da Andreessen Horowitz, em uma publicação na sexta-feira no X.

A Andreessen Horowitz e a incubadora de startups Y Combinator se opuseram veementemente ao projeto de lei SB 1047. Além disso, o cofundador da Anthropic, Jack Clark, também expressou suas queixas sobre a abrangência do RAISE Act, observando que ele poderia representar riscos para empresas menores.