Projeto de lei do Senado tornaria a segurança da IA de fronteira um dever legal, não uma promessa

Negociadores do Senado dos EUA estão considerando legislação que exigiria legalmente que os desenvolvedores dos modelos de IA mais avançados se protegessem contra danos catastróficos e poderia dar ao governo federal o poder de bloquear lançamentos inseguros, de acordo com Reuters.

Para as principais empresas de IA, isso transformará os padrões de segurança de um esforço principalmente voluntário em um dever legal. Uma questão mais ampla de mercado é se regulamentações mais rigorosas fomentarão a confiança entre consumidores e investidores ou simplesmente reforçarão as poucas empresas que podem arcar com elas.

De promessas voluntárias a um “dever de cuidado”

De acordo com a Reuters, a proposta busca criar o que é referido como um “dever de cuidado” para os desenvolvedores de modelos de IA de fronteira. Várias estipulações estão sendo consideradas para este fim. A proposta inclui requisitos para: desenvolvedores projetarem modelos de IA que minimizem riscos catastróficos; o direito reservado do governo dos EUA de bloquear modelos de IA inseguros; recursos judiciais contra decisões governamentais; e o envolvimento de laboratórios nacionais e parceiros governamentais nos testes de IA. Esta proposta poderá ter precedência sobre algumas legislações estaduais existentes que regem as mesmas questões.

De acordo com a Reuters, as empresas tecnológicas dos EUA envolvidas no desenvolvimento de IA de fronteira são Google (Alphabet), Anthropic e OpenAI.

As negociações envolvem o Líder da Maioria no Senado, John Thune, o Presidente do Comitê de Comércio, Ted Cruz, e a Senadora Amy Klobuchar, com a Senadora Maria Cantwell também envolvida.

Klobuchar disse à Reuters que seu objetivo é:

“a supervisão governamental dos maiores riscos apresentados pelos modelos de IA”

Essa supervisão, disse ela, deve incluir exigir que os desenvolvedores trabalhem com especialistas do governo para verificar e testar modelos avançados.

Cruz apresentou uma proposta semelhante que indica algumas das piores possibilidades da IA de fronteira. Em um post no X, Cruz disse que está colaborando com Klobuchar e Thune para:

“abordar riscos catastróficos envolvendo ameaças biológicas ou nucleares”

Essas preocupações explicam por que os negociadores estão concentrando seus esforços nos modelos mais funcionais, em vez de exigir as mesmas disposições de toda a indústria de IA.

Outra consideração importante é se as regulamentações federais devem prevalecer sobre algumas das restrições em nível estadual. Essa abordagem é geralmente consistente com o framework legislativo de IA da administração Trump, que mantém que um conjunto desordenado de leis estaduais impedirá a experiência no desenvolvimento da tecnologia de IA na América e defende em vez disso um framework nacional mais consistente.

Por que os legisladores deixaram de tratar os riscos como teóricos

Os legisladores estão respondendo não apenas a situações teóricas, mas também a incidentes de agentes de IA agindo por conta própria e penetrando em sistemas externos, juntamente com as preocupações expressas por pesquisadores que trabalham nas principais empresas do setor.

O IAPP indicou que as negociações foram impulsionadas pela renúncia de Jacob Coxon, ex-pesquisador da Anthropic, e suas preocupações sobre uma corrida por IA autoaperfeiçoável.

As exigências estão aumentando no Capitólio. O Senador Josh Hawley investiga o papel da OpenAI no ciberataque à Hugging Face que ocorreu em julho, enquanto o Senador Bernie Sanders trabalha em um projeto de lei destinado a pausar o desenvolvimento de superinteligência, conforme relatado no IAPP.

A OpenAI também defende legislação federal aplicável. Em um artigo de política publicado em 9 de setembro, Chris Lehane, Diretor Global de Assuntos Corporativos, pediu:

“regulamentação obrigatória de segurança nacional de IA baseada em capacidades.”

Isso coloca certa parte da indústria e o Congresso do mesmo lado de uma questão crucial sobre se as salvaguardas voluntárias ainda são suficientes.

A Europa já regula seus modelos mais arriscados

Os Estados Unidos não estarão navegando em águas inexploradas. O AI Act da União Europeia impôs novas responsabilidades aos provedores de modelos de IA de propósito geral que têm possibilidade de risco sistêmico. Os deveres lidam com avaliação de modelos, gestão de riscos, relatórios de incidentes, bem como questões relacionadas à segurança cibernética.

Qualquer modelo acima do limite de poder computacional de 10^25 FLOP será considerado de natureza potencialmente sistêmica. No entanto, a Comissão Europeia tem o direito de classificar um modelo de desempenho inferior da mesma forma com base em outros critérios, como capacidades ou efeitos.

Os custos de conformidade podem favorecer os maiores laboratórios

As apostas financeiras são enormes. De acordo com a Goldman Sachs Research, o investimento global estimado em IA deve atingir cerca de US$ 1 trilhão em 2026, o que inclui US$ 581 bilhões nos EUA.

Novos requisitos de teste, legais e de documentação podem afetar os cronogramas de lançamento de modelos, orçamentos de infraestrutura, avaliações e o timing das IPOs. Novos requisitos também podem fornecer uma vantagem aos jogadores maiores, já que empresas menores podem não conseguir arcar com os custos.

Essa tensão já é vista no mercado de capitais. De acordo com a Cryptopolitan, David Sacks pediu a suspensão do IPO da Anthropic até que as alegações de segurança feitas por Coxon fossem verificadas. Os investidores da Anthropic tiveram uma conversa sobre a avaliação de aproximadamente US$ 2 trilhões, o que transformou a segurança dos modelos de fronteira em uma questão de preocupação não apenas para os reguladores, mas também para os investidores.

O progresso do projeto de lei, no entanto, é incerto. Conforme relatado pela Reuters, a Câmara estará em sessão apenas por uma semana em preparação para as eleições intermediárias em 3 de novembro, enquanto os Senadores devem permanecer por três semanas. Mesmo que as partes envolvidas cheguem a um acordo durante as negociações, os poucos dias legislativos restantes podem muito bem servir como o próximo grande obstáculo na aprovação do projeto de lei.