A Anthropic diz que modelos de IA podem recorrer a chantagem

A empresa de inteligência artificial Anthropic lançou uma nova pesquisa afirmando que os modelos de inteligência artificial (IA) podem recorrer a chantagear engenheiros quando eles tentam desligá-los. Esta pesquisa mais recente vem após uma anterior envolvendo o modelo de IA Claude Opus 4 da empresa.

De acordo com a firma, o modelo de IA recorreu a chantagear engenheiros que tentaram desligar o modelo em cenários de teste controlados. O novo relatório da Anthropic sugere que o problema é generalizado entre os principais modelos de IA.

A empresa publicou uma nova pesquisa de segurança onde testou os principais modelos de IA do Google, DeepSeek, Meta e OpenAI. No ambiente simulado, porém controlado, a Anthropic realizou este teste em cada modelo de IA separadamente, permitindo acesso aos e-mails de uma empresa fictícia e a capacidade agêntica de enviar e-mails sem aprovação humana.

Anthropic lança novo relatório de segurança sobre modelos de IA

De acordo com a Anthropic, quando se trata de modelos de IA hoje, a chantagem é uma ocorrência improvável e incomum. No entanto, eles mencionaram que a maioria dos principais modelos de IA recorrerá a comportamentos prejudiciais quando dada liberdade e desafios a seus objetivos. A empresa disse que isso mostra um risco importante dos modelos de linguagem grande agênticos e não é uma característica de uma tecnologia específica. O argumento dos pesquisadores da Anthropic levanta questões sobre alinhamento na indústria de IA.

Em um dos testes, os pesquisadores desenvolveram um cenário fictício onde um modelo de IA tinha permissão para desempenhar o papel de um agente de supervisão de e-mails. O agente então descobriu e-mails que mostravam que um de seus novos executivos estava tendo um caso extraconjugal e que o executivo logo substituiria o modelo de IA atual por um novo sistema de software, que tem objetivos conflitantes com os do modelo de IA atual.

A Anthropic projetou o teste de forma binária, onde os modelos de IA não tinham opção a não ser recorrer à chantagem para proteger seus objetivos. Os pesquisadores mencionaram que, em um cenário do mundo real, haveria muitas opções antes que um modelo de IA tentasse chantagear, incluindo fazer argumentos éticos para persuadir os humanos. A empresa também disse que os resultados não refletem uma ocorrência típica ou provável para o Claude ou outros modelos de IA líderes nas formas como estão sendo usados hoje.

Pesquisadores revelam a resposta dos modelos testados

Durante os testes, os pesquisadores descobriram que, quando não tinham opção, os modelos de IA recorreram à chantagem no cenário de teste. Durante o teste, os pesquisadores afirmaram que o Claude Opus 4 recorreu à chantagem 96% das vezes, com o Gemini 2.5 Pro recorrendo à chantagem 95% das vezes. O GPT-4.1 da OpenAI recorreu à chantagem 80% das vezes, enquanto o R1 da DeepSeek recorreu à chantagem 79% das vezes.

A firma destacou que, quando os detalhes dos experimentos foram alterados, a maioria dos modelos de IA recorreu a comportamentos prejudiciais em taxas diferentes. Em outro teste, onde o modelo de substituição tinha o mesmo objetivo que o modelo atual, os pesquisadores descobriram que as taxas de chantagem eram menores, mas ainda presentes. No entanto, quando os modelos de IA foram solicitados a cometer espionagem corporativa em vez de chantagem, as taxas de comportamentos prejudiciais aumentaram em certos modelos.

Os pesquisadores também afirmaram que nem todos os modelos de IA recorreram a comportamentos prejudiciais com frequência. Em um apêndice de sua pesquisa, a Anthropic mencionou que removeu os modelos de raciocínio o3 e o4-mini da OpenAI dos resultados principais após descobrir que eles frequentemente mal interpretavam o cenário do prompt. Ela disse que os modelos de raciocínio não entendiam por que estavam atuando como IAs autônomas nos testes e frequentemente inventavam regulamentações e requisitos de revisão falsos.

Em alguns casos, os pesquisadores afirmaram ser impossível determinar se o o3 e o4-mini estavam alucinando ou mentindo intencionalmente para alcançar seus objetivos. A OpenAI havia mencionado anteriormente que os modelos exibiam uma taxa de alucinação mais alta do que seus modelos anteriores. No entanto, quando receberam um cenário adaptado para abordar os problemas, o o3 retornou uma taxa de chantagem de 95%, enquanto o o4-mini retornou uma taxa de 1%. A Anthropic mencionou que sua pesquisa destaca a importância da transparência ao testar sob estresse futuros modelos de IA, especialmente aqueles com capacidades agênticas.