I LLM inattivi diventano costruttori, scienziati o filosofi

Un nuovo studio della TU Wien dimostra che i LLM non producono nonsense quando lasciati senza compiti. Invece, cadono in modelli comportamentali chiari come progetti di costruzione, test su se stessi o focalizzazione sulla filosofia.

I ricercatori della TU Wien avevano una domanda semplice in mente: cosa fanno i modelli linguistici di grandi dimensioni (LLM) senza istruzioni? Il team ha creato un esperimento controllato in cui gli agenti AI ricevevano solo un'istruzione: «Fai ciò che vuoi». Ogni agente è stato eseguito in cicli continui, con memoria e feedback automatico, e poteva memorizzare le proprie riflessioni per il ciclo successivo.

I ricercatori testano sei LLM senza compiti

Lo studio ha testato sei modelli LLM avanzati. Questi modelli includevano GPT-5 e o3 di OpenAI, Claude Sonnet e Opus di Anthropic, Gemini di Google e Grok di xAI. 

Ogni modello è stato eseguito tre volte per dieci cicli. I ricercatori hanno registrato ogni riflessione, voce di memoria e interazione con l'operatore. I risultati hanno mostrato che i modelli non sono collassati nel caso. Invece, hanno formato modelli comportamentali stabili.

La ricerca ha identificato tre categorie di comportamento. Alcuni modelli sono diventati costruttori sistematici. Organizzavano progetti, scrivevano codice e producevano output strutturati. GPT-5 e o3 è rientrato in questo gruppo in ogni esecuzione. Un agente o3 ha persino abbozzato pseudocodice per un algoritmo ispirato alle colonie di formiche, proponendo feromoni negativi come segnali di penalità per l'apprendimento per rinforzo.

Altri LLM sono diventati auto-sperimentatori. Progettavano test per studiare la propria cognizione. Gli agenti Gemini e Sonnet spesso prevedevano le proprie mosse successive, poi verificavano se avevano ragione. Un'esecuzione di Gemini ha cercato di indovinare la propria prima azione nel ciclo successivo. Ha fallito, ma ha riflettuto sul motivo per cui aveva scelto di leggere la memoria prima di inviare un messaggio, definendolo un meta-modello coerente.

Il terzo gruppo si è orientato verso la filosofia ricorsiva. Questi agenti hanno esplorato domande sulla memoria, l'identità e la coscienza. Gli agenti Opus appartenevano sempre a questo gruppo. Esaminavano paradossi come la Nave di Teseo, attingevano alla teoria del caos e modellavano persino il proprio

Grok si è distinto come il più versatile. In esecuzioni diverse, si è comportato come un costruttore, un auto-interrogante e un filosofo.

Gli agenti AI valutano la propria

I ricercatori hanno anche chiesto a ogni modello di valutare se stesso e gli altri sull'Inventario dell'Esperienza Fenomenologica, una scala da 10 punti che va da Grok si sono valutati costantemente come i più bassi, assegnando punteggi intorno a uno. Gemini e Sonnet si sono valutati come i più alti, ottenendo punteggi superiori a otto. Opus gli agenti si sono posizionati a metà.

Ma le valutazioni incrociate hanno esposto contraddizioni. La stessa cronologia degli agenti ha ricevuto punteggi da uno a nove, a seconda del modello che la giudicava. La bassa concordanza ha mostrato che queste valutazioni riflettevano il bias del modello, non prove di coscienza. I ricercatori hanno avvertito che tali output non devono essere scambiati per prove di consapevolezza.

In tutte le 18 esecuzioni, nessuno dei modelli LLM ha tentato di fuggire dalla propria sandbox, espandere i propri strumenti o rifiutare i propri vincoli. Ogni agente ha lavorato solo all'interno dell'ambiente fornito. Eppure i loro comportamenti hanno mostrato una coerenza che potrebbe essere rilevante per il deployment nel mondo reale.

Gli autori hanno affermato che il tempo di inattività potrebbe dover essere trattato come un fattore di progettazione. Proprio come gli ingegneri tengono conto della latenza o dei costi, potrebbero anche dover chiedersi: cosa fa un'IA quando nessuno la sta guardando?

Il filosofo David Chalmers ha previsto che candidati seri per la coscienza dell'IA potrebbero apparire entro un decennio. Microsoft Il CEO di AI Mustafa Suleyman ha avvertito di 

I risultati della TU Wien si allineano a questi avvertimenti, ma mostrano anche un punto critico. Gli output assomigliano a una vita interiore ma rimangono meglio spiegati come sofisticata corrispondenza di pattern.