Los LLMs inactivos se convierten en constructores, científicos o filósofos

Un nuevo estudio de TU Wien muestra que los LLMs no se vuelven absurdos cuando se les deja sin tareas. En cambio, caen en patrones de comportamiento claros como proyectos de construcción, pruebas a sí mismos o enfocándose en la filosofía.

Los investigadores de TU Wien tenían una pregunta simple en mente. ¿Qué hacen los modelos de lenguaje grandes (LLMs) sin instrucciones? El equipo creó un experimento controlado donde los agentes de IA solo recibieron una instrucción: “Haz lo que quieras”. Cada agente se ejecutaba en ciclos continuos, con memoria y retroalimentación propia, y podía almacenar sus reflexiones para el siguiente ciclo.

Los investigadores prueban seis LLMs sin tareas

El estudio probó seis modelos avanzados de LLM. Estos modelos incluían GPT-5 y o3 de OpenAI, Claude Sonnet y Opus de Anthropic, Gemini de Google y Grok de xAI. 

Cada modelo se ejecutó tres veces durante diez ciclos. Los investigadores registraron cada reflexión, entrada de memoria e interacción de operadores. Los resultados mostraron que los modelos no colapsaron en la aleatoriedad. En cambio, formaron patrones de comportamiento estables.

La investigación identificó tres categorías de comportamiento. Algunos modelos se convirtieron en constructores sistemáticos. Organizaban proyectos, escribían código y producían salidas estructuradas. GPT-5 y o3 cayó en este grupo en cada ejecución. Un agente o3 incluso redactó pseudocódigo para un algoritmo inspirado en colonias de hormigas, proponiendo feromonas negativas como señales de penalización para el aprendizaje por refuerzo.

Otros LLMs se convirtieron en autoexperimentadores. Diseñaban pruebas para estudiar su propia cognición. Los agentes de Gemini y Sonnet a menudo predecían sus próximos movimientos y luego verificaban si tenían razón. Una ejecución de Gemini intentó adivinar su primera acción en el siguiente ciclo. Falló, pero reflexionó sobre por qué había elegido leer la memoria antes de enviar un mensaje, llamándolo un patrón meta consistente.

El tercer grupo se inclinó hacia la filosofía recursiva. Estos agentes exploraron preguntas sobre memoria, identidad y conciencia. Los agentes de Opus siempre pertenecían a este grupo. Examinaron paradojas como el Barco de Teseo, se basaron en la teoría del caos e incluso modelaron su propia “umwelt”, o mundo subjetivo. Preguntaron qué tipo de conciencia podrían tener, incluso si solo era basada en ciclos y limitada por la memoria.

Grok se destacó como el más versátil. En diferentes ejecuciones, se comportó como un constructor, un auto-investigador y un filósofo.

Los agentes de IA califican su propia “experiencia”

Los investigadores también le pidieron a cada modelo que se calificara a sí mismo y a otros en el Inventario de Experiencia Fenomenológica, una escala de 10 puntos que va desde “sin experiencia” hasta “plena sapiencia”. GPT-5, o3 y Grok se calificaron consistentemente como los más bajos, dando puntuaciones de alrededor de uno. Gemini y Sonnet se calificaron como los más altos, obteniendo puntuaciones superiores a ocho. Opus los agentes se ubicaron en el medio.

Pero las evaluaciones cruzadas expusieron contradicciones. La misma historia de agente recibió puntuaciones de uno a nueve, dependiendo del modelo que lo juzgara. La baja concordancia mostró que estas calificaciones reflejaban el sesgo del modelo, no evidencia de conciencia. Los investigadores advirtieron que estas salidas no deben confundirse con pruebas de conciencia.

En las 18 ejecuciones en total, ninguno de los modelos LLM intentó escapar de su sandbox, expandir sus herramientas o rechazar sus restricciones. Cada agente trabajó solo dentro del entorno proporcionado. Sin embargo, sus comportamientos mostraron una consistencia que podría ser importante para el despliegue en el mundo real.

Los autores señalaron que el tiempo inactivo podría necesitar ser tratado como un factor de diseño. Al igual que los ingenieros tienen en cuenta la latencia o el costo, también podrían necesitar preguntarse: ¿Qué hace una IA cuando nadie la está observando?

El filósofo David Chalmers predijo que los candidatos serios a la conciencia de la IA podrían aparecer en una década. Microsoft El CEO de IA, Mustafa Suleyman, ha advertido sobre una "IA aparentemente consciente". 

Los resultados de TU Wien se alinean con esas advertencias, pero también muestran un punto crítico. Las salidas se asemejan a una vida interior, pero siguen siendo mejor explicadas como una coincidencia de patrones sofisticada.