L'UNESCO ha espresso preoccupazione per il fatto che l'IA generativa possa distorcere la storia dell'Olocausto se gli sviluppatori di IA non applicano standard etici. In un rapporto pubblicato lunedì, UNICEF ha messo in guardia dal potenziale uso improprio dell'IA generativa da parte di malintenzionati.
Il rapporto dell'UNESCO avverte che i malintenzionati potrebbero utilizzare la tecnologia per diffondere disinformazione, cattiva informazione e contenuti fuorvianti sull'Olocausto.
I giovani sono vulnerabili alle informazioni sbagliate
Il rapporto, pubblicato in collaborazione con il Congresso ebraico mondiale, avverte che i giovani sono maggiormente a rischio di ricevere informazioni distorte a causa della loro elevata esposizione a tecnologie emergenti come l'intelligenza artificiale.
Ciò avviene mentre i rapporti suggeriscono anche che l'80% dei giovani di età compresa tra 10 e 24 anni utilizza l'intelligenza artificiale per vari compiti, come i compiti scolastici, il che aumenta le loro possibilità di accedere a informazioni distorte.
"Se permettiamo che i terribili fatti dell'Olocausto vengano diluiti, distorti o falsificati attraverso l'uso irresponsabile dell'intelligenza artificiale, rischiamo la diffusione esplosiva dell'antisemitismo e una graduale diminuzione della nostra comprensione delle cause e delle conseguenze di queste atrocità".
Audrey Azoulay, direttrice generale dell'UNESCO.
Il rapporto evidenzia inoltre che l'intelligenza artificiale ha unatronpropensione a "semplificare eccessivamente la storia complessa, privilegiando una gamma ristretta di fonti e una piccola selezione di eventi". Ad esempio, circa il 60-80% dei risultati di ricerca di immagini più importanti dei motori di ricerca basati sull'intelligenza artificiale mostrano un solo sito dell'Olocausto, Auschwitz-Birkenau.
L'UNESCO chiede azioni per far rispettare l'etica
Il rapporto sostiene che l'intelligenza artificiale può perpetuare pregiudizi esistenti, e che l'Olocausto non sarà risparmiato da questi pregiudizi. Secondo l'UNESCO, esiste già una diffusa disinformazione sull'Olocausto, che potrebbe aggravarsi a causa dell'uso dell'intelligenza artificiale generativa.
Leggi anche: Meta AI si espande in India in un contesto di crescente concorrenza nel settore dell'intelligenza artificiale
Azoulay ha sottolineato l'importanza di far rispettare standard etici per proteggere i giovani dalle informazioni distorte.
“È urgente attuare la Raccomandazione dell'UNESCO sull'etica dell'intelligenza artificiale affinché le giovani generazioni crescano con i fatti e non con le invenzioni”.
Azoulay.
Il rapporto evidenzia che modelli di intelligenza artificiale come ChatGPT di OpenAI e Bard di Google, ora Gemini, hanno creato allucinazioni sull'Olocausto, descrivendo eventi mai accaduti. Secondo l'UNESCO, questi modelli hanno "fabbricato il concetto di Olocausto attraverso campagne di annegamento in cui i nazisti annegarono gli ebrei in fiumi e laghi".
I modelli di intelligenza artificiale hanno anche creato false citazioni a supporto di queste narrazioni distorte. Alla luce di questi episodi, l'UNESCO ha chiesto un approccio multilaterale per affrontare la sfida. Una delle soluzioni è la rapida attuazione della Raccomandazione sull'etica dell'intelligenza artificiale , adottata dagli Stati membri nel 2021.
L'UNESCO ha inoltre esortato le aziende tecnologiche a rispettare i principi di equità, trasparenza, diritti umani e due diligence. otto aziende tecnologiche hanno firmato un impegno con il direttore generale dell'UNESCO, impegnandosi ad applicare un approccio etico nello sviluppo dei loro modelli di intelligenza artificiale.
Reporting Cryptopolitan di Enacy Mapakame
