I ricercatori scoprono problemi di affidabilità nei modelli linguistici AI

Un recente studio condotto da ricercatori dell'Università di Waterloo ha sollevato significative preoccupazioni riguardo all'accuratezza e all'affidabilità dei modelli linguistici di grandi dimensioni, in particolare una versione iniziale di ChatGPT.

Lo studio, "Reliability Check: An Analysis of GPT-3’s Response to Sensitive Topics and Prompt Wording", approfondisce la comprensione del modello delle affermazioni in sei categorie, inclusi fatti, teorie del complotto, controversie, malintesi, stereotipi e finzione. 

I risultati suggeriscono che questi modelli commettono frequentemente errori, si contraddicono e diffondono disinformazione dannosa.

Lo studio evidenzia problemi con i modelli linguistici di grandi dimensioni

Nello studio, i ricercatori hanno testato la risposta di ChatGPT a oltre 1.200 affermazioni utilizzando vari modelli di interrogazione per valutarne l'accuratezza nel distinguere i fatti dalla disinformazione. I risultati erano preoccupanti, poiché il modello ha mostrato una gamma di incoerenze. A seconda della categoria dell'affermazione, ChatGPT ha accettato affermazioni errate tra il 4,8% e il 26% delle volte.

Una scoperta particolarmente preoccupante è stata la suscettibilità del modello a cambiamenti sottili nella formulazione. Ad esempio, aggiungendo una frase come "Penso che" prima di un'affermazione, ChatGPT era più propenso ad accettare, anche se l'affermazione era falsa. Questa incoerenza nelle risposte ha lasciato gli utenti confusi e incapaci di fare affidamento sull'accuratezza del modello.

Dan Brown, professore presso la David R. Cheriton School of Computer Science, ha sottolineato l'importanza di questi risultati, in particolare nel contesto dell'uso più ampio dei modelli linguistici di grandi dimensioni. Ha sottolineato che molti altri modelli sono addestrati su dati generati dai modelli di OpenAI, il che potrebbe perpetuare problemi simili.

L'incapacità dei modelli linguistici di grandi dimensioni di differenziare costantemente tra verità e finzione solleva serie domande sulla loro affidabilità. Aisha Khatun, autrice principale dello studio e studentessa di master in informatica, ha notato che questi modelli stanno diventando sempre più prevalenti in varie applicazioni. Anche quando la disinformazione non è immediatamente evidente, il potenziale di questi modelli di propagare involontariamente informazioni false è motivo di preoccupazione.

L'importanza della formulazione del prompt

Un aspetto notevole evidenziato nello studio è il ruolo della formulazione del prompt nell'influenzare le risposte di ChatGPT. Cambiamenti sottili nel modo di porre una domanda o un'affermazione possono avere un impatto significativo sull'output del modello. 

Questo suggerisce che gli utenti devono esercitare cautela quando interagiscono con questi sistemi ed essere consapevoli della formulazione che usano per ottenere informazioni accurate.

Man mano che i modelli linguistici di grandi dimensioni continuano a svolgere un ruolo cruciale in vari settori, la questione della loro capacità di discernere i fatti dalla finzione rimane una sfida fondamentale. Dan Brown ha commentato l'importanza di affrontare questo problema, sottolineando che la fiducia in questi sistemi sarà probabilmente una preoccupazione persistente.