Um projeto de lei do Senado tornaria a segurança da IA ​​de vanguarda um dever legal, e não uma promessa

Segundo a Reuters , os negociadores do Senado dos EUA estão a analisar legislação que obrigaria legalmente os desenvolvedores dos modelos de IA mais avançados a protegerem-se contra danos catastróficos e que poderia dar ao governo federal o poder de bloquear lançamentos inseguros .

Para as principais empresas de IA, isto transformará os padrões de segurança, de um esforço maioritariamente voluntário para uma obrigação legal. Uma questão de mercado mais ampla é se as regulamentações mais rigorosas fomentarão a confiança entre os consumidores e os investidores ou se simplesmente fortalecerão as poucas empresas que podem suportar os custos.

Dos compromissos voluntários a um “dever de cuidado”

Segundo a Reuters, a proposta procura criar aquilo a que se chama um "dever de cuidado" para os desenvolvedores de modelos de IA de ponta. Diversas estipulações estão a ser consideradas para este efeito. A proposta inclui requisitos para: os desenvolvedores conceberem modelos de IA que minimizem os riscos catastróficos; o direito reservado ao governo dos EUA de bloquear modelos de IA inseguros; recursos judiciais contra decisões governamentais; e o envolvimento de laboratórios nacionais e parceiros governamentais nos testes de IA. Esta proposta terá possivelmente precedência sobre algumas legislações estaduais existentes que regem as mesmas questões.

Segundo a Reuters, as empresas tecnológicas norte-americanas envolvidas no desenvolvimento de inteligência artificial de ponta são a Google (Alphabet), a Anthropic e a OpenAI.

As negociações envolvem o líder da maioria no Senado, John Thune, o presidente da Comissão do Comércio, Ted Cruz, e a senadora Amy Klobuchar, com a participação também da senadora Maria Cantwell.

Klobuchar disse à Reuters que o seu objetivo é:

“Supervisão governamental dos maiores riscos representados pelos modelos de IA”

Esta supervisão, disse ela, deveria incluir a exigência de que os programadores trabalhassem com especialistas do governo para verificar e testar modelos avançados.

Cruz apresentou uma proposta semelhante que indica algumas das piores possibilidades da IA ​​de topo. Numa publicação no X, Cruz afirmou estar a colaborar com Klobuchar e Thune para:

“Abordar riscos catastróficos envolvendo ameaças biológicas ou nucleares”

Estas preocupações explicam porque é que os negociadores estão a concentrar os seus esforços nos modelos mais funcionais, em vez de exigirem as mesmas disposições de toda a indústria da IA.

Outra consideração importante é se as regulamentações federais devem prevalecer sobre algumas das restrições a nível estadual. Esta abordagem é geralmente consistente com a estrutura legislativa de IA da administração Trump, que sustenta que um conjunto desordenado de leis estaduais prejudicará a experiência no desenvolvimento da tecnologia de IA nos Estados Unidos e defende, em vez disso, uma estrutura nacional mais consistente.

Porque é que os legisladores deixaram de tratar os riscos como teóricos?

Os legisladores estão a responder não só a situações teóricas, mas também adentde agentes de IA a agir por conta própria e a penetrar em sistemas externos, juntamente com preocupações manifestadas por investigadores que trabalham nas principais empresas do setor.

A IAPP indicou que as negociações foram motivadas pela demissão de Jacob Coxon, antigo investigador na área da Antropologia, e pelas suas preocupações com uma corrida à IA de auto-aperfeiçoamento.

As exigências estão a aumentar no Capitólio. O senador Josh Hawley investiga o papel da OpenAI no ciberataque sofrido pela Hugging Face em julho, enquanto o senador Bernie Sanders trabalha num projeto de lei que visa travar o desenvolvimento da superinteligência, como relata a IAPP.

A OpenAI defende também uma legislação federal aplicável. Num artigo de política publicado a 9 de setembro, Chris Lehane, Diretor de Assuntos Globais, defendeu:

“Regulação nacional obrigatória de segurança da IA ​​baseada em capacidades.”

Isto coloca certos sectores da indústria e o Congresso do mesmo lado numa questão crucial sobre se as salvaguardas voluntárias ainda são suficientes.

A Europa já regula os seus modelos mais arriscados

Os Estados Unidos não estarão a navegar em águas desconhecidas. A Lei da IA ​​da União Europeia impôs novas responsabilidades aos fornecedores de modelos de IA de uso geral que apresentem risco sistémico. As obrigações abrangem a avaliação de modelos, a gestão de riscos,dent , bem como questões relacionadas com a cibersegurança.

Qualquer modelo acima do limite de poder computacional de 10^25 FLOP será considerado potencialmente sistémico. No entanto, a Comissão Europeia reserva-se o direito de classificar um modelo com um desempenho inferior de forma semelhante, com base noutros critérios, como as capacidades ou os efeitos.

Os custos de conformidade podem favorecer os maiores laboratórios

Os riscos financeiros são enormes. De acordo com a Goldman Sachs Research, o investimento global estimado em IA deverá atingir cerca de 1 bilião de dólares em 2026, incluindo 581 mil milhões de dólares nos EUA.

Os novos requisitos de testes, legais e de documentação podem afetar os calendários de lançamento de modelos, os orçamentos de infraestruturas, as avaliações e o momento das ofertas públicas iniciais (IPOs). Estes novos requisitos podem também representar uma vantagem para as grandes empresas, uma vez que as mais pequenas podem não ter capacidade para suportar os custos.

Esta tensão já se faz sentir no mercado de capitais. Segundo o Cryptopolitan, David Sacks pediu a suspensão do IPO da Anthropic até que as alegações de segurança feitas por Coxon fossem verificadas. Os investidores da Anthropic discutiram a avaliação de aproximadamente 2 triliões de dólares, o que transformou a segurança dos modelos fronteiriços numa questão de preocupação não só para os reguladores, mas também para os investidores.

O progresso do projeto de lei, no entanto, é incerto. Tal como foi noticiado pela Reuters, a Câmara dos Representantes estará em sessão apenas durante uma semana, em preparação para as eleições intercalares de 3 de novembro, enquanto os senadores deverão permanecer em sessão durante três semanas. Mesmo que as partes envolvidas cheguem a acordo durante as negociações, o número limitado de dias legislativos restantes pode muito bem representar o principal obstáculo à aprovação do projecto.