L'UNESCO teme che l'IA possa distorcere la memoria dell'Olocausto

L'UNESCO ha espresso preoccupazione che l'IA generativa possa distorcere la storia dell'Olocausto se gli sviluppatori di IA non applicano standard etici. In un rapporto pubblicato lunedì, l'UNICEF ha avvertito del potenziale abuso dell'IA generativa da parte di cattivi attori.

Leggi anche: Le banche centrali devono 'alzare il livello' sull'IA, avverte il BIS

Il rapporto dell'UNESCO avverte che i cattivi attori potrebbero utilizzare la tecnologia per diffondere disinformazione, informazioni errate e contenuti fuorvianti sull'Olocausto.

I giovani sono vulnerabili alle informazioni errate

Il rapporto, pubblicato in collaborazione con il Congresso Ebraico Mondiale, avverte che i giovani sono più a rischio di ricevere informazioni distorte a causa della loro elevata esposizione a tecnologie emergenti come l'IA.

Questo arriva mentre i rapporti suggeriscono anche che l'80% dei giovani tra i 10 e i 24 anni utilizza l'IA per vari compiti come i compiti scolastici, il che aumenta le loro possibilità di accedere a informazioni distorte.

“Se permettiamo che i fatti orribili dell'Olocausto siano diluiti, distorti o falsificati attraverso l'uso irresponsabile dell'IA, rischiamo la diffusione esplosiva dell'antisemitismo e la graduale diminuzione della nostra comprensione delle cause e delle conseguenze di queste atrocità.”

Audrey Azoulay, direttrice generale dell'UNESCO.

Il rapporto evidenzia anche che l'IA ha una forte tendenza a “semplificare eccessivamente la storia complessa, privilegiando un'ampia gamma di fonti e una piccola selezione di eventi.” Ad esempio, circa il 60% - 80% dei risultati delle immagini principali dei motori di ricerca basati sull'IA mostra solo un sito dell'Olocausto, Auschwitz-Birkenau.

L'UNESCO chiede azioni per far rispettare l'etica

Il rapporto sostiene che l'IA può perpetuare i pregiudizi esistenti e l'Olocausto non sarà risparmiato da questi pregiudizi dell'IA. Già ora, secondo l'UNESCO, c'è una prevalenza di disinformazione sull'Olocausto, che può peggiorare a causa dell'uso dell'IA generativa.

Leggi anche: Meta AI si espande in India amidst crescente competizione IA

Azoulay ha sottolineato l'importanza di far rispettare gli standard etici per proteggere i giovani dalle informazioni distorte.

“L'implementazione della Raccomandazione dell'UNESCO sull'etica dell'IA è urgente affinché le generazioni più giovani crescano con i fatti e non con le fabbricazioni.”

Azoulay.

Il rapporto evidenzia che modelli di IA come ChatGPT di OpenAI e Bard di Google, ora Gemini, hanno allucinato sull'Olocausto, dettagliando eventi mai accaduti. Secondo l'UNESCO, questi modelli hanno “fabbricato il concetto di Olocausto annegando campagne in cui i nazisti annegavano gli ebrei in fiumi e laghi.”

I modelli di IA hanno anche creato citazioni false per sostenere queste narrazioni distorte. Alla luce di questi episodi, l'UNESCO ha chiesto un approccio multi-stakeholder per affrontare la sfida. Una delle soluzioni è l'implementazione rapida della Raccomandazione sull'etica dell'IA, adottata dagli Stati membri nel 2021.

L'UNESCO ha anche esortato le aziende tecnologiche a rispettare i principi di equità, trasparenza, diritti umani e due diligence. Otto aziende tecnologiche hanno firmato un impegno con il direttore generale dell'UNESCO nel febbraio scorso, impegnandosi ad applicare un approccio etico nello sviluppo dei loro modelli di IA.

Reportage di Cryptopolitan a cura di Enacy Mapakame