Vitalik Buterin afferma che la lotta per i posti di lavoro nell'IA dipende da ciò che le persone intendono per superintelligenza

Il co-fondatore di Ethereum Vitalik Buterin sostiene che gran parte del dibattito pubblico sull'IA avanzata deriva dal fatto che entrambi i lati sostengono assunzioni che in realtà non condividono. 

La proposta di interruttore di emergenza di Buterin per tutte le applicazioni IA ha incontrato critiche mentre la comunità tecnologica si impegna in un altro dibattito su quanto rapidamente l'IA progredirà e cosa ciò significhi per la forza lavoro. 

Cosa sta guidando il dibattito sull'IA? 

In un post su X, il co-fondatore di Ethereum Vitalik Buterin ha detto che lo scontro tra sostenitori dello scenario “AI 2040” e i suoi critici si riduce a quanto rapidamente e quanto significativamente i progressi dell'IA saranno. 

La cornice AI 2040 assume che un qualche tipo di superintelligenza apparirà entro il 2040 a meno che forti misure non lo impediscano. Nel frattempo, i critici credono che i sostenitori dell'AI 2040 sottovalutino la capacità di coordinamento umano e minaccino la libertà, ma non vedono la superintelligenza stessa come un rischio di concentrazione di potere.

Buterin ha ammesso di non sapere quale scenario sia più vicino alla realtà. “Se fossi sicuro che l'IA (di tipo attuale) sia una tecnologia normale, sarei nel campo dei detrattori. Se fossi sicuro che la superintelligenza arriverà di default nel 2030, sarei più vicino al campo dell'AI 2040”, ha scritto. 

Ma il co-fondatore rimane aperto a rallentare o fermare lo sviluppo dell'IA se i rischi diventano significativi.

Il dibattito ha coinvolto il ricercatore di IA Yann LeCun, l'autore Daniel Jeffries e l'analista di policy Adam Thierer. 

Yann LeCun, scienziato capo dell'IA di Meta (NASDAQ: META), sostiene che la sicurezza dell'IA sia fondamentalmente un problema di ingegneria che può essere risolto attraverso un design iterativo attento, proprio come i motori a reazione sono stati resi affidabili. 

LeCun ha sottolineato che “ci sono voluti 50 anni” per rendere gli aerei veramente sicuri, e che la paura dell'IA è prematura quando non abbiamo ancora creato un sistema capace di intelligenza a livello umano. Ha costantemente sostenuto che i modelli linguistici di grandi dimensioni sono limitati “macchine di completamento automatico” che mancano di ragionamento e comprensione causale. 

Harry Hawk, scrivendo come @hhawk, ha detto di allinearsi con Yann LeCun e crede che i futuri sistemi di IA sarebbero progettati per la sicurezza come gli aerei. Ha anche detto di non credere che l'IA e i robot faranno tutto, lasciando senza lavoro o posti di lavoro.

Buterin ha replicato che quella prospettiva nega l'esistenza di un’“IA così potente che l'IA da sola può eseguire qualsiasi compito”, che lui chiama ASI.

Come possono essere controllati i sistemi di IA potenti?

Buterin ha suggerito un “piano A”, che propone una regola ampia che costringe tutti a essere aperti su ciò che stanno costruendo, più un interruttore di emergenza che può rallentare o fermare l'addestramento di grandi IA se le cose diventano pericolose.

Ha aggiunto che gli “intellettuali ingenui e ben intenzionati” che pensano di poter scegliere quali usi dell'IA sono ok e quali no si opporranno a questo piano. 

Romeo Dean, che ha stimolato parte della discussione di Buterin, ha definito l'approccio “abbastanza ragionevole” ma ha detto che i suoi trigger arriverebbero troppo tardi secondo la sua visione del mondo. Ha aggiunto di non comprendere i “grandi svantaggi” che i critici attribuiscono al piano A.

Buterin ha ammesso che non esiste una soluzione perfetta. “Vedo zero piani su come gestire una transizione ASI che non siano ingenui”, ha scritto. “Forse l'umanità è bloccata con una scelta tra ingenuo e ingenuo al quadrato.”

Il rapporto AI 2040: Plan A proviene dal progetto AI Futures di Daniel Kokotajlo, ex dipendente di OpenAI. 

Il rapporto afferma che gli Stati Uniti e Cina dovrebbero lavorare insieme per ritardare l'arrivo della superintelligenza fino al 2040. Entrambi i paesi dovrebbero condividere apertamente tutta la propria ricerca. Include inoltre un sistema basato sulla logica della guerra nucleare, in cui entrambi i lati possono distruggere la potenza di calcolo dell'altro se necessario. Lo definiscono "distruzione calcolata mutuamente assicurata".

Richard Ngo, ricercatore di intelligenza artificiale, ha dichiarato che il rapporto è troppo preoccupato per l'imminente arrivo dell'IA. Ha inoltre affermato che non riflette abbastanza su quanti problemi politici l'IA potrebbe causare all'interno di ciascun paese.

I modelli open source sono la soluzione?

Sotto l'intero dibattito si trova lo status dei modelli open source. Il 9 luglio LeCun ha scritto che il rischio maggiore dell'IA è la "concentrazione del potere" in poche aziende dominanti. Ha anche scritto che "l'unica soluzione alla sovranità dell'IA sono i modelli di base open source". Il suo post ha ricevuto più di 2.900 like e oltre 430 condivisioni.

L'autore Daniel Jeffries, scrivendo lo stesso giorno, ha affermato che i modelli open source sono alla base della tecnologia americana e ha messo in guardia contro i "sicuristi e falchi miopi" che cercano di limitarli. 

L'analista politico Adam Thierer, membro senior presso l'Istituto R Street e autore di una presentazione prominente per il gruppo di lavoro sull'IA della Camera dei Rappresentanti, ha avvertito che la governance dell'IA negli Stati Uniti si trova a un "bivio critico". 

Ha sottolineato che il Congresso attualmente impiega un processo disordinato, casuale e segreto per la revisione dell'IA. Ha avvertito che se questo sistema informale si espande e il progresso viene bloccato dietro approvazioni speciali, distruggerà l'IA open source. 

Invece di regole pesanti, Thierer propone un approccio di "innovazione senza permessi", in cui le persone saranno autorizzate a costruire e rilasciare l'IA liberamente. Suggerisce che le leggi esistenti dovrebbero essere utilizzate per punire i danni quando necessario, e sostiene anche cose come le zone di test per la nuova IA, l'obbligo di mantenere aperti alcuni modelli e l'aumento degli investimenti nella ricerca sull'IA.