I nuovi modelli ChatGPT di OpenAI risultano "allucinare" più spesso

I più recenti modelli di ragionamento di OpenAI, o3 e o4-mini, producono risposte inventate più spesso dei modelli precedenti dell'azienda, come dimostrato da test interni ed esterni. 

L'aumento delle cosiddette allucinazioni interrompe un modello di lunga data in cui ogni nuova versione tendeva a inventare meno della versione precedente.

I numeri stessi di OpenAI mettono il problema in termini netti. Su PersonQA, un benchmark aziendale che verifica quanto bene un modello ricorda i fatti sulle persone, o3 ha inventato materiale nel 33 percento delle risposte, circa il doppio dei tassi registrati da o1 e o3-mini, che hanno segnato il 16 percento e il 14,8 percento. O4-mini ha fatto ancora peggio, allucinando il 48 percento delle volte.

Un rapporto tecnico dettagli i risultati. Gli ingegneri scrivono che i nuovi modelli superano le versioni precedenti nella codifica e nella matematica, ma poiché "fanno più affermazioni in generale", fanno anche "più affermazioni accurate nonché più inaccurate/allucinate". Il documento aggiunge che "è necessaria più ricerca" per spiegare il calo dell'affidabilità.

OpenAI classifica i sistemi della serie o come modelli di ragionamento, una linea che l'azienda e gran parte del settore hanno abbracciato nell'ultimo anno. I modelli tradizionali non di ragionamento come GPT-4o con ricerca web hanno superato l'ultimo duo per veridicità: GPT-4o con ricerca raggiunge il 90 percento di accuratezza su SimpleQA, un altro benchmark interno.

Il modello o3 di OpenAI sta inventando passaggi

Transluce, un laboratorio no-profit di AI, ha riportato che il modello o3 inventa passaggi. In un'esecuzione, il modello ha detto di aver eseguito codice su un MacBook Pro del 2021 "fuori da ChatGPT", per poi copiare i numeri indietro. Il modello non è semplicemente capace di farlo.

"La nostra ipotesi è che il tipo di apprendimento per rinforzo utilizzato per i modelli della serie o possa amplificare problemi che di solito sono mitigati (ma non completamente eliminati) dai pipeline standard post-addestramento", ha detto Neil Chowdhury, ricercatore di Transluce ed ex dipendente di OpenAI, in un'email.

La co-fondatrice di Transluce Sarah Schwettmann ha detto che il tasso di errore più elevato potrebbe rendere o3 meno utile di quanto suggeriscano le sue competenze grezze.

Kian Katanforoosh, professore aggiunto a Stanford, ha detto a TechCrunch che il suo team sta già testando o3 per compiti di codifica e lo vede come "un passo avanti rispetto alla concorrenza". Tuttavia, ha segnalato un altro difetto: il modello spesso restituisce link web che non funzionano quando vengono cliccati.

Le allucinazioni possono stimolare la creatività, ma rendono i sistemi difficili da vendere per le aziende che hanno bisogno di precisione. Uno studio legale che redige contratti, ad esempio, difficilmente tollererà frequenti errori fattuali.

La ricerca in tempo reale potrebbe ridurre le allucinazioni nei modelli di AI

Una possibile soluzione è la ricerca in tempo reale. La versione GPT-4o di OpenAI, che consulta il web, ottiene già risultati migliori su SimpleQA. Il rapporto suggerisce che la stessa tattica potrebbe ridurre le allucinazioni nei modelli di ragionamento, almeno quando gli utenti sono disposti a inviare prompt a un motore di terze parti.

"Affrontare le allucinazioni su tutti i nostri modelli è un'area di ricerca in corso e stiamo lavorando continuamente per migliorarne l'accuratezza e l'affidabilità", ha dichiarato il portavoce di OpenAI Niko Felix in un'email.

Se la ricerca in tempo reale da sola risolverà il problema rimane incerto. Il rapporto avverte che se l'espansione dei modelli di ragionamento continua a peggiorare le allucinazioni, la caccia alle soluzioni diventerà più urgente. I ricercatori hanno a lungo definito le allucinazioni uno dei problemi più difficili nell'AI, e le ultime sottolineano quanto c'è ancora da fare.

Per OpenAI, la credibilità è importante poiché ChatGPT viene utilizzato nei luoghi di lavoro, nelle aule e negli studi creativi. Gli ingegneri dicono che continueranno a ottimizzare l'apprendimento per rinforzo, la selezione dei dati e l'uso degli strumenti per ridurre i numeri. Fino ad allora, gli utenti devono bilanciare abilità più affilate contro una maggiore probabilità di essere ingannati.