Ecco perché i LLM potrebbero rappresentare un grande rischio per la scienza
Ecco perché i LLM potrebbero rappresentare un grande rischio per la scienza
- I LLM possono talvolta presentare informazioni false come accurate, il che comporta rischi per settori come la scienza, dove i fatti sono fondamentali.
- Il difetto deriva solitamente dai dati scansionati su cui vengono addestrati i modelli.
- Ricercatori di Oxford hanno sostenuto che i LLM dovrebbero essere utilizzati al meglio come "traduttori zero-shot" per proteggere la scienza.
I modelli linguistici di grandi dimensioni (LLM) rappresentano un grande passo avanti nel settore dell'intelligenza artificiale. Tuttavia, una delle principali preoccupazioni riguardo agli LLM è la loro capacità di presentare informazioni inaccurate come fatti, il che pone una serie di rischi.
LLM e Allucinazioni
Gli LLM possono talvolta produrre
I modelli di IA sono addestrati su grandi quantità di dati estratti da Internet, che contengono sia informazioni accurate che inaccurate. Di conseguenza, i LLM imparano a generare testo coerente con i dati su cui sono stati addestrati, anche se quel testo non è fattualmente accurato.
Ad esempio, un LLM chiesto di scrivere un riassunto di un articolo scientifico potrebbe generare un riassunto fattualmente errato perché ha imparato ad associare determinate parole e frasi a determinati concetti, anche se quelle associazioni non sono accurate.
Con un tale difetto, l'uso dei LLM diventa una preoccupazione, specialmente nella scienza, dove i fatti contano.
“Il modo in cui i LLM vengono utilizzati è importante. Nella comunità scientifica è fondamentale avere fiducia nelle informazioni fattuali, quindi è importante utilizzare i LLM in modo responsabile. Se i LLM vengono utilizzati per generare e diffondere articoli scientifici, potrebbero verificarsi gravi danni”, afferma la Prof.ssa Sandra Wachter, Oxford Internet Institute.
Il miglior approccio all'uso dei LLM
In un articolo di ricerca pubblicato dalla Prof.ssa Wachter, Brent Mittelstadt e Chris Russell dell'Oxford, hanno sostenuto che dovrebbero essere stabilite aspettative chiare su ciò che i modelli di IA possono contribuire in modo responsabile e utile per proteggere la scienza e l'istruzione.
I ricercatori hanno notato che i LLM dovrebbero essere utilizzati al meglio come “traduttori zero-shot”, il che significa che gli utenti dovrebbero presentare solo informazioni accurate ai modelli e chiedere loro di riscriverle nei testi desiderati. “Per compiti in cui la verità conta, incoraggiamo gli utenti a scrivere prompt di traduzione che includano informazioni fattuali verificate”, recita l'articolo.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Ibiam Wayas
Ibiam Wayas si occupa di notizie sul crypto dal 2019. Si è laureato in Informatica presso l'Open University of Nigeria. I suoi lavori sono apparsi su varie piattaforme di notizie crypto, tra cui Coinfomania, Crypto News Australia e AltcoinBuzz. Sfruttando il suo background in Informatica, ora si concentra su notizie relative a crypto, robotica e longevità.
