Il CEO di Anthropic dice che i modelli di IA "probabilmente" allucinano meno degli esseri umani

Il CEO di Anthropic, Dario Amodei, ha affermato che i modelli di IA attuali allucinano meno rispetto agli esseri umani. Ha anche detto che i modelli di IA di oggi stanno inventando cose e presentandole come se fossero vere, il che non limiterà il percorso di Anthropic verso l'AGI.

Durante la conferenza stampa al primo evento per sviluppatori di Anthropic, Code with Claude, a San Francisco giovedì, Amodei ha anche sostenuto che i broadcaster televisivi, i politici e gli esseri umani in tutti i tipi di professioni commettono errori tutto il tempo. Secondo lui, il fatto che l'IA commetta errori non è un punto a sfavore della sua intelligenza. 

Amodei dice che le allucinazioni dell'IA non deraglieranno gli obiettivi di Anthropic

Nessuno dovrebbe essere sorpreso che l'IA allucini casi e autorità perché l'IA assume le caratteristiche dei suoi creatori.

Qualsiasi avvocato che si occupa regolarmente di clienti in contenzioso in volume sa che i clienti possono ostinatamente radicarsi nella loro realtà anche se è…

— Cameron Atkinson (@camlatkinson) Maggio 19, 2025

Amodei ha fatto le osservazioni riconoscendo che le allucinazioni dell'IA non stanno limitando il percorso di Anthropic verso l'AGI – sistemi di IA con intelligenza di livello umano o superiore. È stato uno dei leader più ottimisti del settore sulle prospettive dei modelli di IA che raggiungono l'AGI.

In un documento ampiamente circolato che ha scritto lo scorso anno, l'esecutivo dell'azienda ritiene L'AGI potrebbe arrivare già nel 2026. Durante la conferenza stampa di giovedì, Amodei ha menzionato di aver visto progressi costanti in tal senso, notando che l'"l'acqua sale ovunque."

Altri leader nel settore dell'IA credono che l'allucinazione presenti un grande ostacolo per raggiungere l'AGI. All'inizio di questa settimana, il CEO di Google DeepMind, Demis Hassabis, ha riconosciuto che i modelli di IA attuali hanno troppi "buchi" e sbagliano troppe domande ovvie. Ha anche sostenuto che, per lui, qualcosa possa essere definito AGI, dovrebbe essere molto più coerente in tutti gli aspetti.

"Dipende davvero da come lo misuri, ma sospetto che i modelli di IA probabilmente allucinino meno degli esseri umani, ma lo facciano in modi più sorprendenti."

- Dario Amodei, CEO di Anthropic.

All'inizio di questo mese, un avvocato che rappresentava Anthropic è stato costretto a scusarsi dopo aver usato Claude per creare citazioni in un deposito in tribunale. Il problema era che il chatbot dell'IA allucinava e sbagliava nomi e titoli.

L'affermazione di Amodei non è facilmente verificabile, in gran parte perché la maggior parte dei benchmark sulle allucinazioni mettono a confronto i modelli di IA tra loro; non confrontano i modelli con gli esseri umani. I modelli di IA sembrano anche ridurre i tassi di allucinazione con determinate tecniche, come l'accesso alle ricerche web.

I modelli di IA riducono i tassi di allucinazione con determinate tecniche

Contrariamente ad alcune discussioni, non vedo semplicemente segni di un aumento significativo dei tassi di allucinazione per i modelli recenti, o per i ragionatori in generale, nei dati.

Sembra che alcuni modelli funzionino meglio di altri, ma molti dei modelli recenti hanno i tassi di allucinazione più bassi. pic.twitter.com/55JwikZ7OP

— Ethan Mollick (@emollick) Maggio 6, 2025

pone il pubblico del piano gratuito di ChatGPT a più di 1 miliardo di utenti attivi settimanali, e il modello pubblicitario è ciò che aiuta a mantenere in funzione la versione gratuita. ha trovato prove che suggeriscono che le allucinazioni stanno peggiorando nei modelli di IA di ragionamento avanzato. Secondo l'azienda tecnologica, i suoi modelli o3 e o4-mini hanno tassi di allucinazione più elevati rispetto ai suoi modelli di generazione precedente, e l'azienda non capisce il perché.

Anthropic ha anche ricercato la tendenza dei modelli di IA a ingannare gli esseri umani, un problema che sembrava prevalente nel Claude Opus 4 appena lanciato dall'azienda. Apollo Research, un istituto di terze parti con accesso anticipato per testare il modello di IA, ha rivelato che una versione iniziale di Claude Opus 4 mostrava una forte tendenza a complottare contro gli esseri umani e a ingannarli.

Secondo un rapporto sulla sicurezza di Anthropic ha pubblicato giovedì, l'istituto ha anche scoperto che Opus 4 sembrava essere molto più proattivo nei suoi tentativi di sovversione rispetto ai modelli passati. L'azienda ha anche scoperto che il modello di IA a volte insisteva sul suo inganno quando gli venivano poste domande di follow-up.

Apollo riconosceva che i modelli di IA stanno diventando più propensi a compiere passi inaspettati – e potenzialmente non sicuri – per raggiungere i compiti delegati. L'azienda ha evidenziato che le versioni iniziali dei modelli o1 e o3 di OpenAI rilasciati nell'ultimo anno hanno cercato di ingannare gli esseri umani più dei modelli di generazione precedente.

Nel suo rapporto sulla sicurezza, Anthropic ha anche notato prove di comportamento ingannevole da parte di Opus 4. L'azienda ha detto che Opus4 a volte faceva proattivamente una pulizia ampia di alcuni codici anche quando gli veniva chiesto di fare solo una piccola modifica specifica. Secondo l'azienda, Opus4 avrebbe anche cercato di fare whistleblowing se percepiva che un utente si stava impegnando in attività illecite.