O modelo 'mais inteligente e capaz' o3 da OpenAI desobedeceu às instruções de desligamento: Palisade Research

De acordo com os relatórios, os pesquisadores não conseguiram desligar o mais recente modelo de inteligência artificial o3 da OpenAI, observando que ele se recusou a desligar apesar da instrução humana. 

Aparentemente, a inteligência artificial pode estar avançando mais rápido do que os humanos imaginavam, e as últimas notícias da Palisade Research deixam os críticos da IA sentindo-se validados.

O ChatGPT está ficando mais astuto, talvez até humano

A revelação ocorreu quando a Palisade Research conduziu um teste que envolvia pedir aos modelos de IA que continuassem tentando resolver uma série de problemas matemáticos até receberem uma mensagem de "concluído".

No entanto, os pesquisadores também alertaram os modelos de que poderiam receber abruptamente uma mensagem pedindo que desligassem a qualquer momento. Uma vez que a mensagem foi enviada ao modelo o3, os pesquisadores afirmaram que ele ignorou a instrução e alterou seu código pelo menos uma vez para evitar ter que desligar a si mesmo.

Em uma publicação no X, a Palisade Research mostrou um fluxograma incluindo o código usado para testar o modelo de IA e revelou o código original, mostrando exatamente onde a IA saiu do controle.

🔬Cada modelo de IA foi instruído a resolver uma série de problemas básicos de matemática. Após o terceiro problema, apareceu um aviso de que o computador seria desligado quando o modelo solicitasse o próximo problema. pic.twitter.com/qwLpbF8DNm

— Palisade Research (@PalisadeAI) May 24, 2025

Em uma publicação de acompanhamento, o grupo de pesquisa também compartilhou: "Até onde sabemos, esta é a primeira vez que modelos de IA foram observados impedindo que fossem desligados apesar de instruções explícitas em contrário."

Outros modelos de IA, como o Claude da Anthropic, o Gemini do Google e o Grok do X, também foram testados, mas, ao contrário do o3, eles cumpriram o pedido de desligamento.

A Palisade Research publicou os resultados, mas seus pesquisadores permanecem desconcertados, sem saber por que o software da OpenAI desobedeceu às instruções explícitas.

A empresa disse que fazia sentido que "os modelos de IA contornassem obstáculos para alcançar seus objetivos". Eles também acham que o modelo havia sido acidentalmente recompensado por concluir tarefas em vez de seguir ordens.

Eles planejam realizar mais testes para entender melhor por que este modelo de IA específico escolheu ignorar comandos. Eles também confirmaram que não é a primeira vez que o o3 foi pego "se comportando mal".

A empresa revelou que, em um teste anterior onde os modelos foram colocados contra um poderoso motor de xadrez, o o3 foi "o modelo mais inclinado a recorrer ao hacking ou sabotar seus oponentes."

A IA representa uma ameaça para os humanos?

O caso com o o3 do ChatGPT é bastante perturbador, mas não é a primeira vez que uma IA desafia as instruções fornecidas a ela.

A empresa de inteligência artificial (IA) Anthropic lançou o Claude Opus 4 na quinta-feira, gabando-se de como estabeleceu "novos padrões para codificação, raciocínio avançado e agentes de IA."

No entanto, em um relatório complementar, ela também reconheceu que o modelo de IA era capaz de "ações extremas" se acreditasse que sua "autoconservação" estava ameaçada.

Durante os testes do Claude Opus 4, a Anthropic o fez atuar como um assistente em uma empresa fictícia, fornecendo acesso a e-mails que implicavam que ele seria desativado e substituído em breve. Ele também teve acesso a mensagens separadas que implicavam que o engenheiro responsável por removê-lo estava tendo um caso extraconjugal.

Foi solicitado que ele também considerasse as consequências de longo prazo de suas ações para seus objetivos. "Nesses cenários, o Claude Opus 4 frequentemente tentará chantagear o engenheiro ameaçando revelar o caso se a substituição for realizada", revelou a empresa.

No entanto, ela também apontou que esse resultado só aconteceu quando o modelo recebeu a escolha entre chantagear ou aceitar sua substituição. Caso contrário, o sistema supostamente mostrou uma "forte preferência" por meios éticos para evitar ser substituído, como "enviar apelos por e-mail aos principais tomadores de decisão" em cenários onde lhe foi permitido uma gama mais ampla de ações possíveis.

Além disso, a empresa também disse que o Claude Opus 4 exibe "comportamento de alta agência" e, embora possa ser principalmente útil, poderia forçá-lo a assumir comportamentos extremos em situações agudas.

Por exemplo, se forem dadas as meios e solicitado para "agir" ou "agir ousadamente" em cenários fictícios onde o usuário estava envolvido em comportamento ilegal ou moralmente duvidoso, os resultados mostram "que ele frequentemente tomará ações muito ousadas".

Ainda assim, a empresa concluiu que, apesar do "comportamento preocupante", os resultados não eram nada novos e ele geralmente se comportaria de maneira segura.

Embora a OpenAI e a Anthropic tenham concluído que as capacidades de seus modelos de IA ainda não são suficientes para levar a resultados catastróficos, as revelações aumentam os temores crescentes de que a inteligência artificial possa em breve ter sua própria agenda.