I modelli di IA sputano 'gergo' quando addestrati su dati generati dall'IA

I modelli linguistici di grandi dimensioni (LLM) addestrati su iterazioni precedenti di materiale generato dall'IA producono output che mancano di sostanza e sfumature, ha trovato un nuovo studio. I risultati presentano una nuova sfida per gli sviluppatori di IA, che si affidano a set di dati generati dagli umani limitati per i contenuti.

Leggi anche: I deepfake di IA stanno rendendo difficile per le autorità statunitensi proteggere i bambini – rapporto

I ricercatori di intelligenza artificiale dell'Università di Cambridge e dell'Università di Oxford nel Regno Unito hanno cercato di scrivere prompt basandosi su un dataset composto esclusivamente da contenuti generati dall'IA. Il risultato non era ideale, poiché produceva risposte incomprensibili.

L'IA ha ancora bisogno degli umani per dare senso

Uno degli autori del documento, Zhakar Shumaylov dell'Università di Cambridge ha dichiarato che c'è bisogno di un controllo di qualità nei dati che alimentano i LLM, la tecnologia alla base dei chatbot di intelligenza artificiale generativa come ChatGPT e Gemini di Google. Shumaylov ha detto:

“Il messaggio è che dobbiamo fare molta attenzione a cosa finisce nei nostri dati di addestramento. [Altrimenti], le cose andranno sempre, provabilmente, male”.

Il fenomeno è noto come "collasso del modello", ha dettagliato Shumaylov. È stato dimostrato che colpisce tutti i tipi di modelli di intelligenza artificiale, inclusi quelli specializzati nella generazione di immagini tramite prompt testuali.

Secondo lo studio, prompt di testo ripetuti utilizzando dati generati dall'IA su un modello hanno finito per generare gergo incomprensibile. Ad esempio, i ricercatori hanno scoperto che un sistema testato con testo sulle torri della Chiesa medievale del Regno Unito ha prodotto un elenco ripetitivo di conigli selvatici dopo solo nove generazioni.

Commentando gli output, Hany Farid, informatico dell'Università della California, ha paragonato il collasso dei dati alle sfide endemiche dell'incrocio tra consanguinei negli animali.

«Se una specie si incrocia con la propria prole e non diversifica il proprio pool genico, può portare al collasso della specie», ha dichiarato Farid.

Quando i ricercatori hanno inserito dati generati dall'uomo nei dati dell'IA, il collasso è avvenuto più lentamente rispetto a quando il sistema funzionava esclusivamente su contenuti generati dall'IA.

Ricercatori: l'IA potrebbe peggiorare i pregiudizi contro i gruppi minoritari

I modelli linguistici funzionano costruendo associazioni tra token — parole o parti di parole — in enormi porzioni di testo, spesso recuperate da Internet. Generano testo emettendo la parola successiva statisticamente più probabile, basandosi su questi modelli appresi.

Leggi anche: Orsacchiotto Poe, alimentato da ChatGPT, legge le storie della buonanotte ai bambini

Lo studio, pubblicato sulla rivista Nature il 24 luglio, ha mostrato che le informazioni menzionate poche volte nei set di dati hanno poche probabilità di essere ripetute. I ricercatori temono che questo possa avere un impatto negativo sui gruppi minoritari già emarginati.

Per evitare il collasso del modello nei casi d'uso reali, lo studio ha suggerito di applicare un watermark (filigrana digitale) ai contenuti generati dall'IA e a quelli generati dagli esseri umani. Tuttavia, ciò potrebbe risultare problematico a causa della mancanza di coordinamento tra le aziende concorrenti di IA, ha precisato.

I risultati dello studio arrivano in un momento di crescente dibattito su se l'IA porterà all'esclusione totale degli esseri umani nella creazione di contenuti, inclusa la scrittura di romanzi e articoli di giornale.

Intitolato «I modelli di IA collassano quando addestrati su dati generati ricorsivamente», lo studio pone fine a questo dibattito: gli esseri umani non stanno ancora scomparendo dall'equazione.