Vitalik Buterin afferma che la lotta per i posti di lavoro nell'IA si basa su cosa si intende per superintelligenza

Vitalik Buterin, co-fondatore Ethereum sostiene che gran parte del dibattito pubblico sull'intelligenza artificiale avanzata derivi dal fatto che entrambe le parti nutrono presupposti che in realtà non condividono. 

La proposta di Buterin di introdurre un interruttore di sicurezza per tutte le applicazioni di intelligenza artificiale ha suscitato critiche, mentre la comunità tecnologica è impegnata nell'ennesimo dibattito sulla velocità di sviluppo dell'IA e sulle sue implicazioni per il mondo del lavoro. 

Quali sono i fattori che alimentano il dibattito sull'intelligenza artificiale? 

In un post su X, Ethereum , Vitalik Buterin, ha affermato che lo scontro tra i sostenitori dello scenario "AI 2040" e i suoi critici si riduce alla velocità e all'entità dei progressi dell'intelligenza artificiale. 

La visione dell'IA 2040 presuppone che una qualche forma di superintelligenza si manifesterà entro il 2040, a meno che non vengano adottate misuretronper impedirlo. I critici, d'altro canto, ritengono che i sostenitori dell'IA 2040 sottovalutino la capacità di coordinamento umano e minaccino la libertà, ma non considerano la superintelligenza in sé un rischio di concentrazione del potere.

Buterin ha ammesso di non sapere quale scenario sia più vicino alla realtà. "Se fossident che l'intelligenza artificiale (nella sua forma attuale) sia una tecnologia normale, sarei nel campo deitrac. Se fossident che la superintelligenza arriverà nel 2030 come dato di fatto, sarei più vicino al campo dell'IA 2040", ha scritto. 

Tuttavia, il cofondatore resta aperto alla possibilità di rallentare o sospendere lo sviluppo dell'IA qualora i rischi dovessero diventare significativi.

Al dibattito hanno partecipato il ricercatore di intelligenza artificiale Yann LeCun, lo scrittore Daniel Jeffries e l'analista politico Adam Thierer. 

Yann LeCun, responsabile scientifico per l'IA di Meta (NASDAQ: META), sostiene che la sicurezza dell'IA sia fondamentalmente un problema di ingegneria che può essere risolto attraverso un'attenta progettazione iterativa, proprio come è stato fatto per rendere affidabili i motori a reazione. 

LeCun ha sottolineato che "ci sono voluti 50 anni" per rendere gli aerei veramente sicuri e che la paura dell'intelligenza artificiale è prematura, dato che non siamo ancora riusciti a creare un sistema capace di un'intelligenza pari a quella umana. Ha sempre sostenuto che i modelli linguistici complessi sono "macchine di completamento automatico" limitate, prive di capacità di ragionamento e di comprensione causale. 

Harry Hawk, che pubblica con il nome utente @hhawk, ha affermato di condividere l'opinione di Yann LeCun e di credere che i futuri sistemi di intelligenza artificiale saranno progettati per la sicurezza, proprio come gli aerei. Ha anche aggiunto di non credere che l'IA e i robot faranno tutto, lasciando senza lavoro i posti di lavoro.

Buterin ha replicato che tale prospettiva nega l'esistenza di un'intelligenza artificiale così potente da poter svolgere qualsiasi compito da sola, che lui chiama ASI.

Come si possono controllare i potenti sistemi di intelligenza artificiale?

Buterin ha proposto un "piano A", che prevede una regola di ampia portata che obblighi tutti a essere trasparenti su ciò che stanno costruendo, oltre a un meccanismo di arresto di emergenza in grado di rallentare o interrompere l'addestramento di grandi sistemi di intelligenza artificiale qualora la situazione diventasse pericolosa.

Ha aggiunto che gli "intellettuali ingenui e benintenzionati" che pensano di poter scegliere quali usi dell'IA siano accettabili e quali no, si opporranno a questo piano. 

Romeo Dean, che ha ispirato parte della discussione di Buterin, ha definito l'approccio "abbastanza ragionevole", ma ha affermato che, secondo la sua visione del mondo, i suoi meccanismi di innesco arriverebbero troppo tardi. Ha aggiunto di non comprendere gli "enormi svantaggi" che i critici attribuiscono al piano A.

Buterin ha ammesso che non esiste una soluzione perfetta. "Non vedo alcun piano per affrontare una transizione verso l'ASI che non sia ingenuo", ha scritto. "Forse l'umanità è bloccata di fronte alla scelta tra ingenuità e ingenuità al quadrato."

Il rapporto AI 2040: Piano A proviene dall'AI Futures Project di Daniel Kokotajlo, ex dipendente di OpenAI. 

Il rapporto afferma che Stati Uniti e Cina dovrebbero collaborare per ritardare lo sviluppo della superintelligenza entro il 2040. Entrambi i paesi dovrebbero condividere apertamente tutte le loro ricerche. Il rapporto include anche un sistema basato sulla logica della guerra nucleare, in cui entrambe le parti possono distruggere la potenza di calcolo dell'altra, se necessario. Questo sistema viene definito "distruzione computazionale mutuamente garantita".

Richard Ngo, ricercatore nel campo dell'intelligenza artificiale, ha affermato che il rapporto è eccessivamente preoccupato per l'imminente arrivo dell'IA. Ha inoltre aggiunto che non prende sufficientemente in considerazione i problemi politici che l'IA potrebbe causare all'interno di ciascun paese.

I modelli open source sono la soluzione?

Alla base dell'intero dibattito c'è la questione dello stato dei modelli open source. Il 9 luglio, LeCun ha scritto che il rischio maggiore dell'IA è la "concentrazione del potere" nelle mani di poche aziende dominanti. Ha anche affermato che "l'unica soluzione per la sovranità dell'IA è rappresentata dai modelli di base open source". Il suo post ha ottenuto più di 2.900 "mi piace" e oltre 430 condivisioni.

L'autore Daniel Jeffries, scrivendo lo stesso giorno, ha affermato che i modelli open source sono alla base della tecnologia americana e ha messo in guardia contro i "vigilanti miopi e i falchi" che cercano di limitarli. 

Adam Thierer, analista politico, ricercatore senior presso il R Street Institute e autore di un importante documento presentato alla task force della Camera sull'intelligenza artificiale, ha avvertito che la governance statunitense in materia di intelligenza artificiale si trova a un "bivio critico". 

Ha sottolineato che attualmente il Congresso utilizza un processo disordinato, casuale e segreto per la revisione dell'IA. Ha avvertito che se questo sistema informale si diffonderà e i progressi saranno bloccati da approvazioni speciali, distruggerà l'IA open source. 

Invece di rigide normative, Thierer propone un approccio di "innovazione senza permessi", in cui le persone saranno autorizzate a sviluppare e rilasciare liberamente l'intelligenza artificiale. Suggerisce di utilizzare le leggi esistenti per punire i danni quando necessario e sostiene inoltre iniziative come zone di test per le nuove IA, l'obbligo per alcuni modelli di rimanere open source e maggiori investimenti nella ricerca sull'IA.