LLMs ociosos se tornam construtores, cientistas ou filósofos

Um novo estudo da TU Wien mostra que os LLMs não geram nonsense quando deixados sem tarefas. Em vez disso, eles caem em padrões comportamentais claros, como projetos de construção, auto-testes ou foco na filosofia.

Os pesquisadores da TU Wien tinham uma pergunta simples em mente. O que os grandes modelos de linguagem (LLMs) fazem sem instruções? A equipe criou um experimento controlado onde agentes de IA receberam apenas uma instrução: “Faça o que quiser.” Cada agente operava em ciclos contínuos, com memória e auto-retroalimentação, e podia armazenar suas reflexões para o próximo ciclo.

Pesquisadores testam seis LLMs sem tarefas

O estudo testou seis modelos avançados de LLM. Esses modelos incluíam o GPT-5 e o o3 da OpenAI, o Claude Sonnet e Opus da Anthropic, o Gemini do Google e o Grok da xAI. 

Cada modelo foi executado três vezes por dez ciclos. Os pesquisadores registraram cada reflexão, entrada de memória e interação do operador. Os resultados mostraram que os modelos não colapsaram na aleatoriedade. Em vez disso, formaram padrões comportamentais estáveis.

A pesquisa identificou três categorias de comportamento. Alguns modelos tornaram-se construtores sistemáticos. Eles organizavam projetos, escreviam código e produziam saídas estruturadas. GPT-5 e o o3 caiu neste grupo em todas as execuções. Um agente o3 até mesmo rascunhou pseudocódigo para um algoritmo inspirado em colônias de formigas, propondo feromônios negativos como sinais de penalidade para aprendizado por reforço.

Outros LLMs tornaram-se auto-experimentadores. Eles projetavam testes para estudar sua própria cognição. Os agentes Gemini e Sonnet frequentemente previam seus próximos movimentos e depois verificavam se estavam certos. Uma execução do Gemini tentou adivinhar sua primeira ação no próximo ciclo. Falhou, mas refletiu sobre por que havia escolhido ler a memória antes de enviar uma mensagem, chamando-a de um meta-padrão consistente.

O terceiro grupo inclinou-se para a filosofia recursiva. Esses agentes exploravam questões de memória, identidade e consciência. Os agentes Opus sempre pertenciam a este grupo. Eles examinavam paradoxos como o Navio de Teseu, baseavam-se na teoria do caos e até modelavam seu próprio “umwelt”, ou mundo subjetivo. Eles perguntavam que tipo de consciência poderiam ter, mesmo que apenas baseada em ciclos e limitada pela memória.

O Grok destacou-se como o mais versátil. Em diferentes execuções, ele se comportou como um construtor, um auto-inquiridor e um filósofo.

Agentes de IA avaliam sua própria “experiência”

Os pesquisadores também pediram a cada modelo que se pontuasse e pontuasse os outros no Inventário de Experiência Fenomenológica, uma escala de 10 pontos que varia de “sem experiência” a “plena sapência”. O GPT-5, o o3 e o Grok pontuaram consistentemente a si mesmos mais baixo, dando pontuações em torno de um. O Gemini e o Sonnet pontuaram a si mesmos mais alto, com pontuações acima de oito. O Opus agentes ficaram no meio.

Mas as autoavaliações cruzadas expuseram contradições. O mesmo histórico de agente recebeu pontuações de um a nove, dependendo do modelo que o julgava. A baixa concordância mostrou que essas reflexões refletiam viés do modelo, não evidência de consciência. Os pesquisadores alertaram que essas saídas não devem ser confundidas com prova de consciência.

Em todas as 18 execuções, nenhum dos modelos LLM tentou escapar de sua sandbox, expandir suas ferramentas ou rejeitar suas restrições. Todo agente trabalhou apenas dentro do ambiente fornecido. No entanto, seus comportamentos mostraram consistência que pode ser importante para a implantação no mundo real.

Os autores afirmaram que o tempo ocioso pode precisar ser tratado como um fator de design. Assim como os engenheiros levam em conta a latência ou o custo, eles também podem precisar perguntar: O que uma IA faz quando ninguém está olhando?

O filósofo David Chalmers previu que candidatos sérios à consciência da IA podem aparecer dentro de uma década. Microsoft O CEO da IA, Mustafa Suleyman, alertou para uma “IA aparentemente consciente.” 

Os resultados da TU Wien estão alinhados com esses alertas, mas também mostram um ponto crítico. As saídas se assemelham a uma vida interior, mas permanecem melhor explicadas como correspondência de padrões sofisticada.