Gli accademici di Boston sostengono che le ansie catastrofiche sull'IA siano esagerate e mal indirizzate

Accademici presso il Centro di Etica Applicata della UMass Boston hanno studiato l'impatto dell'interazione con l'IA sulla comprensione che le persone hanno di sé, e Nir Eisikovits crede in particolare che queste ansie catastrofiche siano esagerate e mal indirizzate. Sebbene esistano grandi problemi umani (non causati dall'IA, ma dagli esseri umani), richiedono l'attenzione dei responsabili politici. I problemi esistono da un po' di tempo, quindi si argomenta, e sono difficilmente cataclismici.

Negli ultimi mesi, l'ascesa dell'IA, esemplificata da sistemi come ChatGPT, ha scatenato un'ampia ansia sui suoi potenziali pericoli. Alcuni hanno persino espresso paure esistenziali e scenari catastrofici, paragonando l'IA a pandemie e guerre nucleari. Nir offre in particolare il concetto che il vero pericolo risieda nell'erosione sottile di qualità umane essenziali, spingendo a una rivalutazione di cosa significhi essere umani nell'era dell'IA.

Sfidare gli scenari catastrofici

Sebbene esperimenti mentali come il "massimizzatore di graffette" siano stati utilizzati per illustrare i potenziali rischi, la realtà è che le applicazioni di IA esistenti sono lontane dall'essere in grado di causare catastrofi su larga scala. Questi scenari, sebbene intriganti, appartengono più al regno della fantascienza che alle minacce imminenti. I sistemi di IA oggi si concentrano su compiti specifici e mancano del giudizio sofisticato e dell'accesso alle infrastrutture critiche richiesti per gli esempi estremi presentati.

Piuttosto che eventi cataclismici, il vero pericolo risiede nella trasformazione graduale dell'esistenza umana attraverso l'integrazione crescente dell'IA. Le tecnologie di IA esistenti hanno già dimostrato il loro potenziale di danno, come la creazione di media deepfake convincenti e la perpetuazione del pregiudizio algoritmico nei sistemi di decisione. Questi problemi richiedono attenzione e regolamentazione da parte dei responsabili politici, ma non sono minacce esistenziali per l'umanità.

La diminuzione delle qualità umane

Il Professor Nir Eisikovits sostiene che il pericolo esistenziale posto dall'IA è di natura diversa – è un rischio filosofico. L'IA ha il potenziale di alterare il modo in cui gli individui percepiscono sé stessi e può erodere gradualmente abilità ed esperienze umane fondamentali. Una di queste abilità è il processo decisionale, un tratto profondamente radicato nella natura umana. Man mano che più giudizi vengono automatizzati e delegati agli algoritmi, le persone potrebbero perdere la capacità di effettuare questi giudizi da sole, portando a un declino della loro capacità di ragionare e prendere decisioni informate.

Un altro aspetto cruciale dell'esistenza umana che l'IA influenza è il ruolo del caso e della serendipità. Gli esseri umani valorizzano gli incontri inaspettati e l'elemento di sorpresa nelle loro vite, mentre i sistemi di raccomandazione algoritmici mirano a minimizzare tali esperienze serendipitiche affidandosi alla prevedibilità e alla pianificazione. La sostituzione graduale del caso con gli algoritmi potrebbe privare gli individui di scoperte significative e inaspettate.

Inoltre, l'avanzamento delle capacità di scrittura dell'IA solleva preoccupazioni riguardo al declino delle abilità di pensiero critico. Se la tecnologia IA sostituisce i compiti di scrittura nell'istruzione superiore, gli educatori potrebbero perdere uno strumento prezioso per insegnare agli studenti a pensare in modo critico ed esprimersi efficacemente.

L'importanza di un'integrazione ponderata

Sebbene l'IA non rappresenti una minaccia catastrofica imminente, l'adozione e l'integrazione acritiche dell'IA in vari domini comportano conseguenze. Il Prof. Eisikovits avverte che se questi sviluppi continuano incontrollati, le abilità umane, come il processo decisionale, l'apprezzamento degli incontri casuali e il pensiero critico, si ridurranno nel tempo. Sebbene la specie umana sopravviva a queste perdite, la qualità dell'esistenza umana ne sarà impoverita.

Nel mezzo delle crescenti ansie riguardanti l'IA, è cruciale differenziare tra scenari catastrofici esagerati e i rischi filosofici associati alla sua integrazione nella società. Sebbene sia improbabile che l'IA porti a una fine apocalittica, l'erosione delle qualità umane essenziali è una preoccupazione genuina. Riconoscendo e affrontando i costi sottili dell'IA, i responsabili politici, i ricercatori e la società in generale possono garantire che le tecnologie IA siano integrate in modo ponderato per migliorare l'esistenza umana piuttosto che diminuirla.

Nir Eisikovits è un professore di filosofia e direttore fondatore del Centro di Etica Applicata. Prima di arrivare alla UMass Boston è stato professore associato di filosofia legale e politica alla Suffolk University, dove ha co-fondato e diretto il Programma di Laurea in Etica e Politica Pubblica. La ricerca del Professor Eisikovits si concentra sui dilemmi morali e politici che sorgono dopo la guerra. È l'autore di "A Theory of Truces" (Palgrave MacMillan) e "Sympathizing with the Enemy: Reconciliation, Transitional Justice, Negotiation" (Brill) e co-editore di "Theorizing Transitional Justice" (Routledge). È anche editore ospite per un recente numero di Theoria su "The Idea of Peace in the Age of Asymmetrical Warfare." Leggi di più su di lui.