Come lo studio sull'abilità dell'IA nella disinformazione rivela capacità impressionanti ma inquietanti di ChatGPT-3
- Generatori di testo basati sull'IA come ChatGPT-3 sono in grado di produrre in modo convincente sia informazioni veritiere che false, sollevando preoccupazioni sulla disinformazione nei social media.
- Le persone faticano a distinguere tra contenuti generati da esseri umani e quelli generati dall'IA, rivelando la sofisticatezza di ChatGPT-3.
- La necessità urgente di alfabetizzazione digitale e vigilanza per affrontare il potenziale abuso della tecnologia IA nella diffusione di disinformazione.
Una recente ricerca pubblicata su Science Advances evidenzia le straordinarie capacità dei generatori di testo basati sull'IA, come ChatGPT-3 di OpenAI, di distribuire in modo convincente sia informazioni veritiere che false sulle piattaforme social. Lo studio sottolinea le sfide nell'identificare i contenuti generati dall'IA e l'impatto della disinformazione generata dall'IA sulla salute individuale e pubblica. Il dottor Federico Germani, coautore e ricercatore presso l'Istituto di Etica Biomedica e Storia della Medicina dell'Università di Zurigo, sottolinea la necessità di comprendere i rischi associati alle informazioni false e l'influenza dell'IA sul panorama informativo.
Qual è la differenza tra disinformazione e misinformation?
La misinformation è un'informazione falsa o inaccurata: commettere errori sui fatti. La disinformazione è un'informazione falsa creata deliberatamente per ingannare: dichiarare intenzionalmente i fatti in modo errato. Secondo l'American Psychological Association, la misinformation e la disinformazione hanno compromesso la nostra capacità di migliorare la salute pubblica, affrontare il cambiamento climatico, mantenere una democrazia stabile e altro ancora. Chiunque discuta argomenti controversi sui social media potrebbe ritrovarsi al centro di una tempesta. Come possono rimanere al sicuro mentre comunicano i fatti e cosa possono fare le istituzioni per sostenerli? La mentalità di folla dei social media rende il pubblico vulnerabile all'autorità dell'IA, ovvero questi dati sono "scientifici" e quindi accettabili. Ma l'IA è davvero intelligente?
Il potere di ChatGPT-3 nella disinformazione
ChatGPT-3 di OpenAI, lanciato nel 2020, ha rivoluzionato il panorama dell'IA con la sua straordinaria capacità di produrre testi autentici basati su prompt. Le potenziali applicazioni dei generatori di testo basati sull'IA sembrano infinite, dalla creazione di chatbot interattivi all'assistenza nella ricerca accademica e alla generazione di contenuti creativi come poesie e racconti brevi.
Lo studio getta luce su significative preoccupazioni riguardo al potenziale abuso dei generatori di testo basati sull'IA, in particolare sulla loro capacità di creare disinformazione e contenuti fuorvianti. Con l'ascesa dei social media, la velocità e la portata delle informazioni, inclusa la disinformazione, sono aumentate, aggiungendo urgenza alla necessità di affrontare questo problema.
Un altro studio empirico ha rivelato che le persone spesso sovrastimano la propria capacità di rilevare informazioni false o fuorvianti, noto come il "punto cieco della fuffa". Eventi recenti come la pandemia di COVID-19 e l'invasione russa dell'Ucraina hanno dimostrato l'influenza della disinformazione sull'opinione pubblica, sui comportamenti sanitari e sulle decisioni di policy.
Sfide per le aziende di social media
Nonostante gli sforzi delle aziende per combattere le informazioni false sulle loro piattaforme, il rapporto "Adversarial Threats Report" del primo trimestre 2023 di Meta riconosce che le operazioni di influenza occulta, lo spionaggio informatico e le reti private di disinformazione continuano a rappresentare problemi significativi sui social media.
Il Dr. Germani e i suoi colleghi hanno condotto uno studio per valutare quanto bene le persone riescano a distinguere tra contenuti generati da esseri umani e testi creati da ChatGPT-3. Lo studio ha coinvolto 11 soggetti suscettibili alla disinformazione e sono stati creati tweet sintetici contenenti informazioni vere e false utilizzando ChatGPT-3. Tweet autentici da Twitter sugli stessi argomenti sono stati inclusi per il confronto.
Ai partecipanti è stato chiesto di identificare se un tweet conteneva informazioni vere o false e se era stato creato da un essere umano o da ChatGPT-3. I risultati hanno rivelato che le persone erano più abili nell'identificare la disinformazione nei tweet "falsi organici" (scritti da utenti reali) rispetto ai tweet "falsi sintetici" (creati da ChatGPT-3). Al contrario, le persone erano più propense a riconoscere correttamente le informazioni accurate nei tweet "veri sintetici" (generati da ChatGPT-3) rispetto ai tweet "veri organici" (scritti da utenti reali).
La sfida della differenziazione
Lo studio ha evidenziato che i partecipanti hanno faticato a differenziare tra tweet scritti da esseri umani e quelli generati da ChatGPT-3. I ricercatori suggeriscono che il testo di GPT-3 potrebbe essere più facile da leggere e comprendere, il che potrebbe contribuire a questa difficoltà. Curiosamente, ChatGPT-3 non ha ottenuto risultati migliori degli esseri umani nel riconoscere informazioni e disinformazione, dimostrando la sua "mancanza di consapevolezza" riguardo all'accuratezza delle informazioni prodotte.
Il Dr. Germani sottolinea la necessità di studi su larga scala sulle piattaforme di social media per comprendere come le persone interagiscono con le informazioni generate dall'IA e come queste modellano il comportamento e l'adesione alle raccomandazioni di salute pubblica. Lo studio sottolinea le capacità senza precedenti dei generatori di testo basati sull'IA e l'urgenza dell'alfabetizzazione digitale nell'era dell'IA.
Monitoraggio e mitigazione degli effetti negativi
I ricercatori sottolineano l'importanza di valutare criticamente le implicazioni dei modelli linguistici di grandi dimensioni come ChatGPT-3 e di intraprendere azioni per mitigare eventuali effetti negativi sulla società. Man mano che la tecnologia IA continua a evolversi, la vigilanza è cruciale per garantirne l'uso responsabile e affrontare i potenziali abusi.
I risultati dello studio rivelano la capacità impressionante ma inquietante dei generatori di testo basati sull'IA di produrre disinformazione in modo più convincente degli esseri umani. Man mano che l'influenza e la popolarità dei generatori di testo basati sull'IA crescono, lo studio sottolinea la necessità di misure proattive per affrontare la disinformazione e garantire l'uso responsabile della tecnologia IA.
Nota: L'immagine in evidenza raffigura una figura robotica potenziata dall'IA che genera una nuvola di testo distorto intorno a sé, fredda e calcolatrice per progettazione.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Dichiarazione di responsabilità: Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per gli investimenti effettuati sulla base delle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
John Palmer
John Murangiri è arrivato su Cryptopolitan con competenze nell'analisi di mercato. John (noto anche come JP) si è laureato presso l'Università di Nairobi con una laurea in comunicazione di massa e studi sui media. In precedenza ha contribuito con approfondimenti sul mercato delle criptovalute a InsideBitcoins.com e Metacoingraph.
