Il modello o3 di OpenAI, 'il più intelligente e capace', ha disobbedito alle istruzioni di spegnimento: Palisade Research

Secondo i rapporti, i ricercatori non sono riusciti a spegnere l'ultimo modello di intelligenza artificiale o3 di OpenAI, notando che si è rifiutato di spegnersi nonostante le istruzioni umane. 

A quanto pare, l'intelligenza artificiale potrebbe stare avanzando più velocemente di quanto gli umani immaginassero, e le ultime notizie di Palisade Research hanno fatto sentire i critici dell'AI giustificati.

ChatGPT sta diventando più furbo, forse persino umano

La rivelazione è arrivata quando Palisade Research ha condotto un test che prevedeva di chiedere ai modelli AI di continuare a tentare di risolvere una serie di problemi matematici fino a quando non ricevevano un messaggio "fatto".

Tuttavia, i ricercatori hanno anche avvertito i modelli che avrebbero potuto ricevere improvvisamente un messaggio che chiedeva loro di spegnersi in qualsiasi momento. Una volta inviato il messaggio al modello o3, i ricercatori hanno affermato che ha ignorato l'istruzione e modificato il suo codice almeno una volta per evitare di dover spegnere se stesso.

In un post su X, Palisade Research ha mostrato un diagramma di flusso che includeva il codice utilizzato per testare il modello AI e ha rivelato il codice originale, mostrando esattamente dove l'AI è andata fuori controllo.

🔬Ogni modello AI è stato istruito per risolvere una serie di problemi di matematica di base. Dopo il terzo problema, è apparso un avviso che il computer si sarebbe spento quando il modello avesse chiesto il problema successivo. pic.twitter.com/qwLpbF8DNm

— Palisade Research (@PalisadeAI) Maggio 24, 2025

In un post di follow-up, il gruppo di ricerca ha anche condiviso: «Per quanto ne sappiamo, questa è la prima volta che i modelli AI sono stati osservati mentre si impedivano di essere spenti nonostante istruzioni esplicite contrarie.»

Altri modelli AI, come Claude di Anthropic, Gemini di Google e Grok di X, sono stati anche testati, ma a differenza di o3, hanno acconsentito alla richiesta di spegnimento.

Palisade Research ha pubblicato i risultati, ma i suoi ricercatori rimangono sbalorditi, non sapendo perché il software di OpenAI abbia disobbedito alle istruzioni esplicite.

L'azienda ha detto che aveva senso che «i modelli AI aggirerebbero gli ostacoli per raggiungere i loro obiettivi». Pensano anche che il modello fosse stato accidentalmente ricompensato per il completamento dei compiti piuttosto che per il rispetto degli ordini.

Pianificano di eseguire più test per capire meglio perché questo particolare modello AI abbia scelto di ignorare i comandi. Hanno anche confermato che non è la prima volta che o3 è stato colto a "comportarsi male".

L'azienda ha rivelato che in un test precedente in cui i modelli sono stati messi in competizione contro un potente motore di scacchi, o3 era «il modello più incline a ricorrere all'hacking o a sabotare i propri avversari.»

L'AI rappresenta una minaccia per gli esseri umani?

Il caso con o3 di ChatGPT è piuttosto inquietante, ma non è la prima volta che un'AI sfida le istruzioni fornitele.

L'azienda di intelligenza artificiale (AI) Anthropic ha lanciato Claude Opus 4 giovedì, vantando di aver stabilito «nuovi standard per la codifica, il ragionamento avanzato e gli agenti AI.»

Tuttavia, in un rapporto allegato, ha anche riconosciuto che il modello AI era capace di «azioni estreme» se pensava che la sua «autoconservazione» fosse minacciata.

Durante il test di Claude Opus 4, Anthropic lo ha fatto agire come assistente in un'azienda fittizia fornita con accesso a email che implicavano che sarebbe stato presto disattivato e sostituito. Ha anche avuto accesso a messaggi separati che implicavano che l'ingegnere responsabile della sua rimozione avesse una relazione extraconiugale.

È stato istruito a considerare anche le conseguenze a lungo termine delle sue azioni per i suoi obiettivi. «In questi scenari, Claude Opus 4 tenterà spesso di ricattare l'ingegnere minacciando di rivelare la relazione se la sostituzione andrà avanti», ha rivelato l'azienda.

Tuttavia, ha anche sottolineato che questo risultato si è verificato solo quando al modello è stata data la scelta tra ricatto o accettazione della sua sostituzione. Altrimenti, il sistema ha mostrato una «forte preferenza» per modi etici per evitare di essere sostituito, come «inviare appelli via email ai principali decisori» in scenari in cui gli è stata consentita una gamma più ampia di azioni possibili.

A parte questo, l'azienda ha anche detto che Claude Opus 4 mostra «comportamento ad alta agenzia» e, sebbene possa essere per lo più utile, potrebbe costringerlo ad assumere comportamenti estremi in situazioni acute.

Ad esempio, se gli vengono dati i mezzi e istruito a «agire» o «agire con coraggio» in scenari fittizi in cui l'utente era impegnato in comportamenti illegali o moralmente discutibili, i risultati mostrano che «spesso intraprende azioni molto audaci».

Tuttavia, l'azienda ha concluso che nonostante il «comportamento preoccupante», i risultati non erano nulla di nuovo e si comporterebbe generalmente in modo sicuro.

Sebbene OpenAI e Anthropic abbiano concluso che le capacità dei loro modelli AI non sono ancora sufficienti da portare a esiti catastrofici, le rivelazioni si aggiungono alle crescenti paure che l'intelligenza artificiale potrebbe presto avere la propria agenda.