I modelli di IA padroneggiano le capacità molto prima di mostrarle, mostra la ricerca

I modelli di intelligenza artificiale (IA) possiedono alcune capacità molto prima di mostrarle durante l’addestramento, ha mostrato una nuova ricerca. Secondo la ricerca condotta da Havard e dall’Università del Michigan, i modelli non mostrano queste abilità fino a quando non ne hanno bisogno in un modo o nell’altro.

La ricerca è una delle tante che è stata condotta per capire come i modelli di IA costruiscono le loro capacità prima di mostrarle.

Lo studio ha analizzato come i modelli di IA imparano concetti di base come dimensione e colore, rivelando che padroneggiano le competenze prima della maggior parte dei test suggerisce. Lo studio ha anche fornito informazioni sulla complessità della misurazione delle capacità di un’IA. “Un modello potrebbe apparire incompetente quando riceve prompt standard mentre possiede effettivamente capacità sofisticate che emergono solo in condizioni specifiche”, recita il documento.

La ricerca mostra che i modelli di IA interiorizzano i concetti

Harvard e l'Università del Michigan non sono stati i primi a cercare di comprendere le capacità dei modelli di IA, con i ricercatori di Anthropic che hanno presentato un articolo intitolato 'dictionary learning'. L'articolo discuteva la mappatura delle connessioni nel linguaggio di Claude verso concetti specifici che l'IA comprende. Sebbene la maggior parte di queste ricerche abbia adottato angolazioni diverse, l'obiettivo principale è comprendere i modelli di IA.

Anthropic ha rivelato di aver trovato funzionalità che potrebbero essere collegate a diversi concetti interpretabili. «Abbiamo trovato milioni di funzionalità che sembrano corrispondere a concetti interpretabili, che vanno da oggetti concreti come persone, paesi e edifici famosi a idee astratte come emozioni, stili di scrittura e passaggi di ragionamento», ha rivelato la ricerca.

Durante la sua ricerca, i ricercatori hanno eseguito diversi esperimenti utilizzando il modello di diffusione, una delle architetture più popolari per IA. Durante l’esperimento, si sono resi conto che i modelli avevano modi distinti per manipolare concetti di base. I modelli erano coerenti mentre i modelli di IA mostravano nuove capacità in fasi diverse e un punto di transizione netto che segnalava quando una nuova abilità era acquisita.

Durante l'addestramento, i modelli hanno mostrato di aver padroneggiato i concetti circa 2.000 passaggi prima di quanto rilevato da un test standard. I concetti forti sono emersi intorno ai 6.000 passaggi, mentre quelli più deboli sono diventati visibili intorno ai 20.000 passaggi. Dopo aver regolato i segnali dei concetti, hanno scoperto una correlazione diretta con la velocità di apprendimento.

I ricercatori rivelano metodi per accedere alle capacità nascoste

I ricercatori hanno utilizzato metodi di prompting alternativi per rivelare capacità nascoste prima che venissero esposte nei test standard. La natura dilagante dell'emergenza nascosta ha effetti sulla valutazione e sulla sicurezza dell'IA. Ad esempio, i benchmark tradizionali potrebbero non rilevare determinate capacità dei modelli di IA, perdendo così sia quelle benefiche che quelle preoccupanti.

Durante la ricerca, il team ha individuato determinati metodi per accedere alle capacità nascoste dei modelli di IA. La ricerca ha definito questi metodi come intervento latente lineare e over-prompting, poiché i ricercatori hanno fatto sì che i modelli esibissero comportamenti complessi prima che emergessero nei test standard. I ricercatori hanno anche scoperto che i modelli di IA manipolavano determinate funzionalità complesse prima di poterle mostrare attraverso prompt standard.

Ad esempio, i modelli potrebbero essere istruiti per generare 'donne sorridenti' o 'uomini con cappelli' con successo prima di essere richiesti di combinarli. Tuttavia, la ricerca ha mostrato che li hanno imparati a combinare prima, ma non saranno in grado di mostrarli attraverso prompt convenzionali. L'esibizione di capacità da parte dei modelli può essere definita grokking, una situazione in cui i modelli mostrano una prestazione di test perfetta dopo un addestramento prolungato. Tuttavia, i ricercatori hanno affermato che ci sono differenze chiave tra i due.

Mentre il grokking avviene dopo diverse sessioni di addestramento e coinvolge il affinamento di diverse distribuzioni degli stessi set di dati, la ricerca mostra che queste capacità emergono durante l'apprendimento attivo. I ricercatori hanno notato che i modelli hanno trovato nuovi modi per manipolare i concetti attraverso cambiamenti di fase piuttosto che miglioramenti graduali della rappresentazione nel grokking.

Secondo la ricerca, i modelli di IA conoscono questi concetti, ma non sono in grado di mostrarli. È simile alle persone che guardano e comprendono un film in una lingua straniera ma non possono parlare quella lingua. Questo mostra che la maggior parte dei modelli ha più capacità di quelle che mostrano, e dimostra anche la difficoltà nel comprendere e controllare le loro capacità.