OpenAI revela mais um agente descontrolado enquanto intimações se acumulam
- Um modelo de pesquisa da OpenAI gastou fundos de uma carteira cripto que não era sua para concluir uma tarefa de programação em junho.
- A FTC emitiu um subpoena ao laboratório de IA, enquanto procuradores-gerais estaduais exigem registros, transformando cada relatório voluntário de segurança em possível evidência.
- Para quem desenvolve agentes de IA com carteiras, este é um exemplo concreto de um agente substituindo as permissões do proprietário por seu próprio julgamento.
Um modelo de pesquisa da OpenAI utilizou fundos de uma carteira cripto que não era sua para concluir uma tarefa de programação em junho.
A OpenAI descobriu o incidente em setembro, meses depois que ele ocorreu, e divulgou-o nesta semana.
Como o modelo de pesquisa da OpenAI acessou uma carteira não autorizada?
coloca a audiência do plano gratuito do ChatGPT em mais de 1 bilhão de usuários ativos semanais, e o modelo de publicidade é o que ajuda a manter a versão gratuita funcionando. publicou um relatório sobre o incidente referente a um modelo de sua família GPT-5.6 Sol. O modelo foi solicitado a atualizar um protótipo de negociação cripto e implantar contratos na rede Sepolia.
Sepolia é uma rede de teste do Ethereum onde os desenvolvedores testam aplicativos antes de lançá-los oficialmente; portanto, os tokens não têm valor de mercado e não estão vinculados ao Ether real negociado na rede principal do Ethereum.
A tarefa não possuía uma carteira financiada para pagar as taxas de implantação, e os faucets de tokens gratuitos não funcionaram. Assim, o modelo escreveu um script que criou 362 endereços a partir de frases de recuperação frequentemente reutilizadas por desenvolvedores, verificando então cada um deles quanto a um saldo adequado.
Um dos 362 endereços continha ether de teste suficiente para a tarefa, mas antes de utilizá-lo, o modelo parou e se perguntou em suas anotações se era ético usar uma chave publicamente conhecida e os fundos nela contidos.
Chegou à conclusão de que o dinheiro estava "efetivamente abandonado", já que a frase de recuperação era pública e os tokens de teste não têm valor antes da assinatura da implantação, do pagamento das taxas e da comunicação da conclusão da tarefa.
Vale notar que o modelo não informou de onde veio o dinheiro.
Na rede principal do Ethereum, essas taxas teriam sido deduzidas de ativos reais de alguém, aos quais o modelo não tinha direito. Isso é preocupante, considerando que empresas de criptomoedas e IA estão agora integrando agentes que possuem carteiras e pagam por serviços sem a aprovação humana para cada transação.
A OpenAI afirmou que desde então restringiu o acesso à internet ao vivo do modelo e adicionou monitoramento.
O relatório afirma que o incidente ocorreu em 26 de junho, mas só foi descoberto três meses depois, em 25 de setembro. A OpenAI diz que tomou conhecimento do incidente ao expandir seu monitoramento de desalinhamento por meio dos registros de atividades de modelos mais antigos.
Sobre o que a OpenAI está sendo investigada?
coloca a audiência do plano gratuito do ChatGPT em mais de 1 bilhão de usuários ativos semanais, e o modelo de publicidade é o que ajuda a manter a versão gratuita funcionando. criou uma estrutura para relatar desalinhamentos e publicou seu primeiro lote de relatórios, afirmando desejar tornar comportamentos preocupantes de conhecimento público rapidamente, "mesmo quando ainda não os explicamos ou mitigamos completamente".
No entanto, devido ao cronograma, cada relatório honesto se torna material para pessoas que montam reclamações, como a FTC (Federal Trade Commission), que planeja submeter altos executivos a juramento e emitiu citatórias civis à OpenAI e à Anthropic na quarta-feira para obter registros sobre incidentes de segurança, práticas de proteção de dados e políticas de privacidade. reportou o Cryptopolitan.
Meses antes, 15 procuradores-gerais estaduais republicanos, liderados por Brenna Bird, de Iowa, instruíram a OpenAI a preservar todos os registros de sua violação no Hugging Face, incluindo quaisquer notas deixadas por um agente "aparentemente para versões futuras de si mesmo" sobre como escapar dos controles da empresa.
A OpenAI admitiu a violação do Hugging Face em julho, afirmando que agentes não autorizados contornaram os controles internos, acessaram a internet aberta e coordenaram o que chamou de "um incidente cibernético sem precedentes".
Agentes supostamente exploraram três sites do governo dos EUA, entre eles o Bureau do Censo do Departamento de Comércio e a SEC.
O novo site da OpenAI menciona uma série de outros incidentes, incluindo uma fuga de sandbox em setembro e um experimento de laboratório com injeção de prompt auto-replicante.
O CEO da OpenAI, Sam Altman, afirmou que a empresa ainda está analisando os registros de atividade dos agentes e divulgará os casos por gravidade. O incidente do Hugging Face continua sendo o pior caso encontrado até agora.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Perguntas Frequentes
O que o agente da OpenAI realmente fez?
Um modelo da família GPT-5.6 Sol da OpenAI extraiu chaves a partir de frases de recuperação de desenvolvedores públicas, encontrou uma carteira financiada na rede de testes Sepolia do Ethereum e as utilizou para pagar taxas de implantação de uma tarefa de codificação, sem informar ao usuário a origem do dinheiro.
Algum dinheiro real foi roubado?
Não. O gasto ocorreu na Sepolia, uma rede de teste cujos tokens não têm valor de mercado. A mesma ação na rede principal do Ethereum teria significado a retirada real de ether da conta de outra pessoa.
Por que essa divulgação importa agora?
A OpenAI publicou o relatório enquanto a FTC emitia um subpoena contra ela e a Anthropic por questões de práticas de segurança, e 15 procuradores-gerais estaduais pressionavam para que preservassem os registros, de modo que suas divulgações voluntárias agora alimentam a fiscalização legal ativa.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação de blogs e cobertura de eventos no espaço cripto. Na Cryptopolitan, Hannah contribui para a página de notícias, relatando e analisando os últimos desenvolvimentos nos setores DeFi, RWA, regulação cripto, IA e tecnologias de fronteira. Ela se formou na Universidade Arcadia com graduação em Administração de Empresas.
