Forças do governo dos EUA obrigam a Anthropic a desativar seus modelos de IA mais poderosos por temores de segurança

A Anthropic desativou seus dois modelos de IA de melhor desempenho na sexta-feira, 12 de junho, após uma ordem de controle de exportação do Departamento de Comércio dos EUA. Foi um caso incomum de interferência governamental na comercialização de tecnologia de IA de fronteira.

O Secretário de Comércio dos EUA, Howard Lutnick, ordenou que o CEO da Anthropic, Dario Amodei, às 17h21 (ET) de sexta-feira, restringisse o acesso ao Claude Fable 5 e ao Claude Mythos 5, de acordo com o comunicado da Anthropic.

A diretiva aplicava-se a todos os indivíduos estrangeiros, independentemente de estarem dentro ou fora dos Estados Unidos, incluindo os próprios funcionários estrangeiros da Anthropic.

A Anthropic afirmou que não conseguia impor efetivamente restrições baseadas na nacionalidade e, portanto, desativou os modelos. Os outros modelos Claude ainda estão disponíveis.

Departamento de Comércio age contra os modelos mais recentes da Anthropic

A diretiva seguiu um aviso de uma empresa não identificada sobre uma técnica que poderia contornar partes do sistema de segurança do Fable 5, informou o Axios, citando um funcionário da administração.

A Anthropic havia lançado os dois modelos apenas três dias antes, em 9 de junho. O Fable 5 estava disponível publicamente, enquanto o Mythos 5 era limitado a parceiros selecionados de cibersegurança sob o Projeto Glasswing.

Antes disso, a administração Trump havia estado envolvida em conversas tentando persuadir a empresa a adiar seu lançamento, mas a Anthropic procedeu independentemente.

Um funcionário da Casa Branca disse que achava importante manter os modelos bloqueados enquanto a nação fortalece a infraestrutura de segurança federal e disse que acredita que isso levará semanas.

Sob a diretiva, qualquer parte que busque exportar, reexportar ou transferir qualquer um dos modelos nos EUA precisaria de uma licença do Departamento de Comércio. A Anthropic também teria que solicitar licenças validadas individualmente. O descumprimento poderia acarretar penalidades monetárias e civis, informou o Axios.

A Anthropic diz que o risco de jailbreak é exagerado

A Anthropic contestou a diretiva, dizendo que o jailbreak em questão era restrito e não equivalia a uma violação universal dos sistemas de segurança dos modelos.

A empresa descreveu a técnica como aquela que pede a um modelo que revise uma base de código específica e identifique falhas de software. A Anthropic disse que revisou uma demonstração do método e descobriu que ele revelou apenas vulnerabilidades menores já conhecidas.

“Descobrimos que outros modelos publicamente disponíveis também são capazes de descobri-los sem exigir um bypass”, escreveu a Anthropic, citando o GPT-5.5 da OpenAI como um exemplo.

A Anthropic também disse que realizou milhares de horas de testes de invasão (red-teaming) antes do lançamento com o governo dos EUA, o Instituto de Segurança de IA do Reino Unido e organizações privadas.

Esses testes não encontraram um jailbreak universal, disse a empresa, o que significa que não há um único método que possa derrotar amplamente os controles de segurança do modelo em muitas capacidades.

“Discordamos que a descoberta de um potencial jailbreak restrito deva ser motivo para retirar um modelo comercial implantado para centenas de milhões de pessoas”, escreveu a Anthropic. “Se esse padrão fosse aplicado em toda a indústria, acreditamos que essencialmente paralisaria todos os novos lançamentos de modelos para todos os provedores de modelos de fronteira.”

Fable 5 já enfrentava críticas

O desligamento encerrou uma semana de lançamento turbulenta para a Anthropic.

O Fable 5 estreou em 9 de junho com filtros que direcionavam consultas sensíveis em cibersegurança, biologia, química e pesquisa de IA para um modelo anterior, o Claude Opus 4.8. Esses filtros foram criticados quase imediatamente por serem muito restritivos.

De acordo com relatório anterior da Cryptopolitan, os usuários disseram que o modelo teve dificuldades com perguntas básicas de biologia envolvendo membranas celulares e vacinas de mRNA.

Outra controvérsia centrou-se no cartão de sistema de 319 páginas da Anthropic, que afirmava que o Fable 5 reduziria automaticamente a qualidade da saída para perguntas relacionadas à pesquisa de IA de fronteira sem avisar os usuários.

A Anthropic alterou essa política em 10 de junho após pesquisadores argumentarem que salvaguardas ocultas concentrariam as capacidades de IA em um pequeno grupo de empresas. A empresa pediu desculpas e disse que as futuras salvaguardas seriam visíveis para os usuários.

A Microsoft também restringiu o uso dos funcionários do Fable 5 devido ao requisito de retenção de dados de 30 dias da Anthropic para modelos da classe Mythos, informou o The Verge.

Sob essa política, os prompts e as saídas são armazenados por 30 dias para fins de confiança e segurança, enquanto o conteúdo sinalizado pode ser retido por até dois anos.

A Anthropic diz que está trabalhando para reverter o desligamento

A Anthropic disse que a ação do governo foi baseada em um mal-entendido e que está trabalhando com os funcionários para resolver o problema. A empresa disse que forneceria mais informações dentro de 24 horas.

O desligamento ocorre em um momento crítico para a Anthropic. A empresa submeteu documentos confidenciais no início deste mês para um IPO planejado nos EUA após levantar US$ 65 bilhões com uma avaliação de US$ 965 bilhões no final do mês passado, informou a Reuters.

A Anthropic agora está enfrentando pressão em duas frentes: os reguladores estão questionando a segurança de seus modelos mais avançados, enquanto os investidores apostam em sua capacidade de continuar crescendo a receita comercial.

A conta oficial do Claude no X informou aos usuários que as novas sessões agora usarão por padrão o modelo selecionado por eles ou o Opus 4.8. As sessões existentes do Fable 5 terminarão com um erro, e os desenvolvedores foram aconselhados a atualizar suas integrações para outros modelos Claude.