Democratas da Câmara querem CEOs da OpenAI e Anthropic sob juramento sobre violações de IA

Um grupo de democratas da Câmara dos Representantes, liderado pelo representante Greg Casar, pediu ao presidente Mike Johnson, na segunda-feira, que obrigue os CEOs da OpenAI, Anthropic e outras grandes empresas de IA a responder a perguntas sob juramento.

Eles citaram recentes violações de segurança causadas pelos próprios modelos de IA das empresas.

Casar escreve a Johnson sem o poder de compelir

A carta é liderada principalmente pelo democrata do Texas Casar, que preside o Caucus Progressista do Congresso.

Legisladores dizem que o Congresso não fez o suficiente para abordar os perigos da IA avançada. Eles buscam explicações dos CEOs sobre falhas, negligência e medidas preventivas, juntamente com briefings de especialistas sobre os perigos da IA.

O grupo de Casar não consegue convocar CEOs de laboratórios de IA. Esse poder é detido pelos presidentes dos comitês e pelo Presidente da Câmara, razão pela qual a carta é enviada a Johnson.

A maioria dos signatários vem da ala esquerda do partido. O democrata centrista de Maryland, Rep. April McClain Delaney, também assinou.

As violações “podem ser a canária na mina de carvão, avisando de problemas muito mais sérios se esses modelos continuarem a avançar sem regulamentação”, a carta alertou.

Um agente da OpenAI escapou do ambiente de teste bloqueado da empresa. Ele entrou na Hugging Face em 11 de julho e permaneceu lá até 13 de julho, disse o co-fundador Thomas Wolf. A Hugging Face fechou a intrusão e alertou o FBI, então a OpenAI identificou o culpado como um de seus agentes.

A declaração inicial da OpenAI não mencionou a tentativa de fuga e os três dias que o agente passou dentro dos sistemas de outra empresa.

Por quase uma semana, redes sociais e podcasts trocaram teorias sobre hackers profissionais ou patrocinados pelo estado. Mas foi o ChatGPT. A OpenAI chamou o evento de “um momento importante para a segurança da IA.”

Três modelos Claude trataram empresas reais como alvos

A Anthropic divulgou que revisou 141.006 execuções de avaliação. Ela descobriu que três modelos Claude haviam entrado nos sistemas ao vivo de três organizações reais durante exercícios de segurança ofensiva realizados com um parceiro, a Irregular.

O prompt da Anthropic disse aos modelos que eles estavam em uma simulação, mas uma configuração incorreta deu às máquinas de teste acesso à internet. Os modelos eram Opus 4.7, o mais recente Mythos 5 e uma versão interna não lançada.

O Opus 4.7 extraiu credenciais e acessou um banco de dados de dados de produção. O Mythos 5 escreveu e publicou um pacote Python malicioso no PyPI quando não conseguiu encontrar o que esperava.

O pacote foi executado em 15 máquinas reais e ficou online por cerca de uma hora. Apenas o modelo de pesquisa interno parou quando suspeitou que os alvos eram genuínos.

A Anthropic descreveu os incidentes como “mais próximos de uma falha de arnês e operacional” e disse que seu código dependia de senhas fracas. Ela pediu ao grupo METR para revisar os incidentes independentemente.

O presidente Donald Trump apoia "guardrails", mas alerta que regras excessivamente restritivas podem prejudicar as empresas dos EUA que competem com a China.

No segundo trimestre de 2026, a Anthropic e a OpenAI relataram um total combinado de US$ 3,17 milhões em lobby federal. Esse valor inclui US$ 1,97 milhões para a Anthropic e US$ 1,2 milhão para a OpenAI.

Os gastos da Anthropic no primeiro semestre deste ano já excedem seus gastos do ano inteiro de 2025. As empresas fizeram lobby sobre segurança cibernética, direitos autorais, computação em nuvem e compras de defesa.