Un approccio di addestramento rivoluzionario abilita l'IA a generalizzare come le menti umane

In uno sviluppo rivoluzionario per il campo dell'intelligenza artificiale (IA), i ricercatori hanno presentato un nuovo protocollo di addestramento in grado di migliorare significativamente la capacità di un modello IA di generalizzare e comprendere le informazioni, avvicinandolo al modo in cui gli esseri umani imparano e ragionano. Questo approccio innovativo sfida la convinzione convenzionale che più dati siano la chiave per migliorare l'apprendimento automatico, offrendo nuove intuizioni sui segreti sia dell'IA che della cognizione umana.

Gli esseri umani eccellono nel comprendere e combinare vari componenti per dare senso al mondo, una capacità cognitiva nota come "composizionalità" o "generalizzazione sistematica". Questo ci permette di decifrare frasi sconosciute, creare risposte originali e comprendere i significati sottostanti delle parole e delle regole grammaticali. Raggiungere la composizionalità è stata a lungo una sfida per gli sviluppatori di IA, poiché le reti neurali tradizionali faticano a emulare questo aspetto fondamentale della cognizione umana.

Sebbene i modelli di IA generativa attuali come GPT-3 e GPT-4 di OpenAI possano imitare la composizionalità in una certa misura, spesso non riescono in alcuni benchmark, fallendo nel cogliere davvero il significato e l'intenzione dietro le frasi che generano. Tuttavia, uno studio recente pubblicato su Nature suggerisce che un protocollo di addestramento unico focalizzato su come le reti neurali imparano potrebbe essere la chiave per affrontare questa sfida.

Ridefinire il processo di apprendimento

Gli autori dello studio hanno adottato un approccio diverso per addestrare l'IA, evitando la necessità di creare architetture IA completamente nuove. Invece, hanno iniziato con un modello transformer standard, la stessa architettura di base utilizzata in ChatGPT e Bard di Google, ma senza alcun addestramento preliminare sul testo. L'innovazione cruciale risiedeva nel regime di addestramento stesso.

I ricercatori hanno progettato una serie di attività che coinvolgono una lingua fittizia composta da parole nonsensiche come "dax", "lug", "kiki", "fep" e "blicket". Queste parole erano associate a insiemi di pallini colorati, con alcune parole che rappresentavano direttamente colori specifici dei pallini e altre che indicavano funzioni che alteravano gli output dei pallini. Ad esempio, "dax" rappresentava un pallino rosso, mentre "fep" era una funzione che, combinata con "dax" o altre parole simboliche, moltiplicava per tre l'output del pallino corrispondente. Crucialmente, l'IA non ha ricevuto informazioni su queste associazioni; i ricercatori hanno semplicemente fornito esempi di frasi nonsensiche insieme alle configurazioni di pallini corrispondenti.

IA che raggiunge una comprensione simile a quella umana

Mentre il modello IA subiva l'addestramento, ha imparato gradualmente a rispondere in modo coerente, aderendo alle regole implicite della lingua nonsensica. Anche quando gli sono state presentate combinazioni di parole nuove, l'IA ha dimostrato la sua capacità di "comprendere" le regole inventate della lingua e di applicarle a frasi non viste in precedenza. Questa notevole impresa ha suggerito il potenziale dell'IA di generalizzare, un passo critico verso il ragionamento simile a quello umano.

Per valutare le prestazioni dell'IA, i ricercatori l'hanno confrontata con i partecipanti umani. In alcuni casi, l'IA addestrata ha risposto con un'accuratezza del 100%, superando gli esseri umani, che hanno raggiunto un tasso di accuratezza di circa l'81%. Anche quando l'IA commetteva errori, questi rispecchiavano gli errori comunemente commessi dagli esseri umani, evidenziando la sua capacità di ragionamento simile a quello umano.

Ciò che è particolarmente degno di nota è che queste impressionanti prestazioni sono state ottenute con un modello transformer relativamente piccolo, non con un'IA massiccia addestrata su vasti set di dati. Questo risultato suggerisce che, invece di inondare i modelli di apprendimento automatico con dati infiniti, un approccio più focalizzato, simile a una lezione specializzata di linguistica o algebra, potrebbe produrre miglioramenti sostanziali nelle capacità dell'IA.

Implicazioni e direzioni future

Sebbene questo nuovo protocollo di addestramento offra risultati promettenti, è essenziale riconoscere le sue limitazioni. Il modello IA ha eccellito in compiti specifici relativi al riconoscimento di pattern all'interno di una lingua inventata, ma ha faticato quando si è trovato ad affrontare sfide completamente nuove o forme di generalizzazione non praticate. Di conseguenza, è fondamentale riconoscere che il raggiungimento di una generalizzazione limitata nell'IA è un passo significativo, ma non raggiunge l'obiettivo finale dell'intelligenza artificiale generale.

Armando Solar-Lezama, informatico del Massachusetts Institute of Technology, nota che questa ricerca potrebbe aprire nuove vie per il miglioramento dell'IA. Concentrandosi sull'insegnamento ai modelli di ragionare in modo efficace, anche in compiti sintetici, potremmo trovare modi per migliorare le capacità dell'IA oltre i limiti attuali. Tuttavia, la scalabilità di questo nuovo protocollo di addestramento potrebbe presentare sfide che devono essere affrontate.

Inoltre alle sue implicazioni pratiche per l'IA, questa ricerca potrebbe anche gettare luce sul funzionamento interno delle reti neurali e sulle loro capacità emergenti. Comprendere questi processi potrebbe contribuire a minimizzare gli errori nei sistemi IA e a migliorare la nostra comprensione della cognizione umana.