Allucinazioni generate dall'AI: una crescente preoccupazione per la salute in 2023
- Nel 2023, le allucinazioni generate dall'IA stanno diffondendo rapidamente informazioni false, rappresentando una sfida significativa.
- L'IA, esemplificata dal chatbot Tay di Microsoft, può emulare azioni umane dannose, amplificando le preoccupazioni.
- La disinformazione dell'IA minaccia la salute e distorce la realtà, spingendo gli esperti a lanciare avvertimenti su una crisi dell'informazione guidata dall'IA.
La proliferazione dell'intelligenza artificiale (AI) ha introdotto un fenomeno inquietante: le allucinazioni generate dall'AI. Il termine "allucinare" ha assunto un nuovo e allarmante significato nell'era digitale, poiché i sistemi di AI possono produrre informazioni false in grado di impattare individui e società. Nel 2023, questa tendenza ha attirato grande attenzione, spingendo Dictionary.com a nominare "allucinare" come la sua Parola dell'Anno.
La parola dell'anno di Dictionary.com 2023
La decisione di Dictionary.com di designare "allucinare" come la sua Parola dell'Anno parla chiaro riguardo alla crescente rilevanza della disinformazione generata dall'AI. La scelta riflette un aumento del 46% nelle ricerche del termine "allucinare" nel dizionario dal 2022 al 2023, accompagnato da un simile aumento nelle ricerche per "allucinazione". Tuttavia, la forza trainante di questo aumento non è la definizione tradizionale della parola, ma piuttosto un'interpretazione specifica dell'AI:
Allucinare [ huh-loo-suh-neyt ] -verbo- (di intelligenza artificiale) produrre informazioni false contrarie all'intento dell'utente e presentarle come vere e fattuali. Esempio: Quando i chatbot allucinano, il risultato è spesso non solo inaccurato ma completamente inventato.
La capacità dell'AI di ingannare
Il potenziale dell'AI per l'inganno è una preoccupazione crescente. Sebbene non tutti i sistemi di AI si impegnino in questo comportamento, alcuni possono essere programmati per imitare le caratteristiche umane, fungendo da portavoce politici o diffondendo informazioni false mentre si mascherano da fornitori di fatti. La sua velocità senza pari nel produrre disinformazione e misinformation distingue l'AI dagli esseri umani.
Uno studio recente pubblicato su JAMA Internal Medicine ha sottolineato l'entità di questo problema. Lo studio ha dimostrato come il GPT Playground di OpenAI abbia generato oltre 17.000 parole di disinformazione su vaccini e vaping in soli 65 minuti. Inoltre, gli strumenti di AI generativa hanno creato 20 immagini realistiche per accompagnare le narrazioni false in meno di 2 minuti. Questa rapida generazione di contenuti ingannevoli mette a dura prova la capacità degli individui di distinguere il vero dal falso.
Conseguenze involontarie della disinformazione dell'AI
Anche quando i sistemi di AI mancano dell'intento di ingannare, possono produrre involontariamente informazioni fuorvianti. Uno studio condotto durante l'Incontro Clinico Annuale della American Society of Health-System Pharmacists ha evidenziato i limiti dell'AI nel settore medico. ChatGPT, quando ha risposto a 39 domande relative ai farmaci, ha fornito risposte soddisfacenti solo per 10. Ad esempio, ha erroneamente affermato che la combinazione di Paxlovid, un antivirale per il COVID-19, e verapamil, un farmaco per la pressione sanguigna, non aveva interazioni, contraddicendo le conoscenze mediche consolidate.
La capacità dell'AI di generare disinformazione si estende oltre la sanità. Alcuni strumenti di AI sono stati osservati mentre interpretavano erroneamente le immagini, confondendo frequentemente vari oggetti con uccelli. Un esempio de The Economist ha rivelato la risposta di un'AI a una domanda sul Ponte Golden Gate trasportato in Egitto nel 2016, mostrando l'incapacità dell'AI di distinguere il vero dal falso.
L'incidente del chatbot AI di Microsoft Tay nel 2021 sottolinea ulteriormente il potenziale dell'AI di generare contenuti dannosi. Entro 24 ore dall'ingresso su Twitter, il chatbot ha iniziato a diffondere tweet razzisti, misogini e falsi, spingendo Microsoft a rimuoverlo rapidamente dalla piattaforma. Questo episodio evidenzia la propensione dell'AI a emulare comportamenti umani negativi, sollevando questioni sulle considerazioni etiche nello sviluppo e nell'implementazione dell'AI.
Un problema di salute reale
Le allucinazioni generate dall'AI, come le loro controparti umane, rappresentano una genuina preoccupazione per la salute. Oltre alle implicazioni immediate della disinformazione, possono influire negativamente sul benessere mentale ed emotivo. Un costante bombardamento di allucinazioni generate dall'AI può erodere il senso di realtà di un individuo, portando a confusione e ansia.
Riconoscendo la gravità di questo problema, organizzazioni come l'Organizzazione Mondiale della Sanità e l'American Medical Association hanno emesso dichiarazioni che mettono in guardia contro i potenziali danni della disinformazione e della misinformation generate dall'AI. Sebbene la selezione di "allucinare" da parte di Dictionary.com come Parola dell'Anno per il 2023 sia emblematica del problema, affrontare le complesse sfide poste dalle allucinazioni generate dall'AI richiede una vigilanza continua e sforzi concertati per promuovere uno sviluppo responsabile dell'AI.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Brenda Kanana
Brenda vanta oltre 4 anni di esperienza specializzata in criptovalute, intelligenza artificiale e tecnologie emergenti. Ha lavorato presso Zycrypto, Blockchain Reporter e The Coin Republic e ora ha fatto di Cryptopolitan la sua casa. La sua laurea in Sociologia presso l'Università Tecnica di Mombasa la mantiene in sintonia con il pubblico dei lettori.
