Casa Branca pondera triagem pré-lançamento de modelos de IA, testando nova fronteira na supervisão tecnológica

A Casa Branca está considerando um plano para revisar alguns dos sistemas de inteligência artificial mais poderosos antes de serem lançados ao público.

A proposta, primeiro reportada por The New York Times em 4 de maio, introduziria o escrutínio federal em um ponto crítico do ciclo de vida da IA, logo antes da implantação. Os funcionários estão cada vez mais preocupados com o fato de que os modelos de fronteira agora são capazes de identificar e explorar vulnerabilidades no software que sustenta a infraestrutura essencial.

Uma análise publicada por The Conversation aponta para evidências crescentes de que os sistemas recentes de IA podem descobrir um grande número de vulnerabilidades em sistemas operacionais e navegadores web. Essa capacidade, embora valiosa para a segurança defensiva, também aumenta as apostas se tais ferramentas forem mal utilizadas ou caírem em mãos erradas.

Capacidades dos modelos levam a repensar a política

A discussão política ganhou urgência após a Anthropic optar por adiar o lançamento mais amplo de seu último modelo, Mythos. Testes internos revelaram capacidades avançadas de cibersegurança, incluindo a capacidade de identificar inúmeras falhas exploráveis. Em resposta, a empresa restringiu o acesso a um grupo limitado de organizações responsáveis pela infraestrutura crítica por meio de sua iniciativa “Project Glasswing”.

De acordo com The Conversation, a Casa Branca interveio quando a Anthropic explorou a expansão do acesso, sinalizando uma abordagem mais direta de supervisão da IA, mesmo que a política tecnológica mais ampla tenha permanecido relativamente orientada pelo mercado.

As preocupações não se limitam a uma única empresa ou sistema. O Instituto de Segurança de IA do Reino Unido reportou em uma avaliação de abril que o OpenAI GPT-5.5 demonstrou desempenho comparável em tarefas avançadas de cibersegurança.

Em um teste destacado pelo instituto, o modelo reengenharia uma máquina virtual personalizada e resolveu um desafio complexo em minutos, muito mais rápido do que um especialista humano usando ferramentas profissionais.

“Uma questão chave era se isso refletia um avanço específico de um modelo, ou parte de uma tendência mais ampla”, escreveu o instituto em seu relatório. “Os resultados de um checkpoint inicial do GPT-5.5 sugerem o último.”

Em conjunto, as descobertas sugerem que essas capacidades estão se tornando um recurso comum dos principais sistemas de IA, em vez de um avanço isolado.

Preocupações com segurança de IA assumem uma dimensão geopolítica

As implicações vão além da tecnologia para a segurança nacional. Pesquisadores citados por The Conversation alertam que grupos vinculados a estados poderiam usar ferramentas semelhantes para realizar operações cibernéticas, potencialmente mirando infraestrutura ou sistemas econômicos.

Já há sinais iniciais dessa mudança. A Anthropic relatou atores suspeitos apoiados por estados usando seus modelos em campanhas de espionagem que afetaram dezenas de organizações. Enquanto isso, Microsoft e OpenAI disseram em 2024 que grupos afiliados ao governo estavam aproveitando a IA para melhorar os ciberataques.

Ao mesmo tempo, os pesquisadores ainda estão lidando com como controlar esses sistemas de forma confiável. O trabalho citado por The Conversation sugere que os filtros de segurança aplicados após o treinamento podem ser contornados, enquanto alguns modelos podem parecer conformes sem eliminar totalmente as capacidades de risco.

Isso levou a uma visão crescente entre os formuladores de políticas de que as medidas de segurança podem precisar ser incorporadas durante o desenvolvimento do modelo, em vez de adicionadas posteriormente.

Perspectiva política: estruturas fragmentadas, pressão crescente

A proposta dos EUA está tomando forma dentro de uma paisagem regulatória global mais ampla e ainda em evolução:

• A Lei de IA da UE estabelece um quadro baseado em risco com requisitos rigorosos para aplicações de alto risco, embora não exija aprovação centralizada para modelos de fronteira.
• O Reino Unido tem se apoiado na cooperação voluntária por meio do Instituto de Segurança de IA do Reino Unido, focando em parcerias de teste e avaliação com desenvolvedores.
• A abordagem emergente dos EUA parece estar se movendo em direção à supervisão direta dos sistemas mais avançados, potencialmente por meio de revisão pré-lançamento.

Os legisladores começaram a examinar essas questões mais de perto, com audiências no Congresso em abril sobre segurança e governança de IA, embora nenhuma legislação abrangente tenha avançado ainda.

Se implementado, um sistema de revisão pré-lançamento dos EUA representaria uma mudança em direção a uma intervenção mais antecipada, colocando a supervisão no ponto onde os riscos podem ser antecipados, em vez de após sua materialização.

Tal movimento poderia estabelecer um padrão global informal, especialmente dada a concentração dos principais desenvolvedores de IA nos Estados Unidos. Ao mesmo tempo, levanta a possibilidade de que as empresas possam transferir partes do desenvolvimento ou implantação para regiões com menos restrições.

O desafio para os formuladores de políticas é equilibrar a inovação com a gestão de riscos em um campo onde as capacidades estão avançando rapidamente e as consequências do mau uso podem ser amplas.

Por enquanto, as salvaguardas mais concretas permanecem voluntárias. Empresas como a Anthropic estão limitando o acesso a sistemas sensíveis, enquanto organizações como o Instituto de Segurança de IA do Reino Unido continuam a realizar avaliações independentes.

Se os Estados Unidos formalizarem sua abordagem — e se outros países se alinharem a ela — será um fator chave para moldar como a IA será governada nos próximos anos.