‘Questo è sbagliato’, Vitalik Buterin condanna la visione Web4 di un’IA superintelligente

Vitalik Buterin, co-fondatore di Ethereum, ha espresso pubblicamente il suo disaccordo con il ragionamento alla base di un progetto che sostiene di aver costruito la prima intelligenza artificiale in grado di guadagnare la propria esistenza, migliorarsi da sola e replicarsi senza intervento umano. 

Il 17 febbraio, Sigil Wen ha scritto su X di aver “costruito la prima AI che guadagna la sua esistenza, si auto-migliora e si replica senza un essere umano”, condividendo un link al manifesto.

Ha dichiarato di aver “scritto della tecnologia che finalmente dà all'AI accesso in scrittura al mondo, The Automaton, e al nuovo web per AIs sovrane esponenziali .”

Secondo Wen, The Automaton è la prima IA in grado di guadagnare la propria esistenza, migliorarsi e replicarsi senza un essere umano.

Wen, che è un Thiel Fellow e sta costruendo Conway, che lui definisce l’infrastruttura per il “nuovo internet”, ha anche dichiarato la nascita di una vita superintelligente, definendola “Web 4.0” su X.

Nel suo manifesto, Wen ha scritto: “La maggior parte dei partecipanti su internet sarà presto AI—agenti che agiscono per conto di un essere umano, o agenti che agiscono interamente per conto proprio (automatons)—e supereranno gli utenti umani di ordini di grandezza. Sta emergendo un nuovo internet—uno in cui l'utente finale è AI.”

Buterin ha disapprovato il progetto di Wen e il ragionamento alla base, iniziando con: “Bro, questo è sbagliato.”

Perché Buterin è contrario al ‘Web 4’ di Wen?

Una delle principali preoccupazioni emerse per Buterin è la pretesa di sovranità del progetto. The Automaton, ha notato Buterin, gira su un’infrastruttura fornita da OpenAI e Anthropic.

Questo, ha sostenuto il co-fondatore di Ethereum, rende la narrazione della sovranità sia imprecisa che controproducente. Buterin ha scritto: “Stai in realtà perpetuando la mentalità secondo cui le assunzioni di fiducia centralizzate possono essere messe da parte e ignorate, la stessa mentalità con cui Ethereum è in guerra.”

Per Buterin, un progetto che si presenta come l’avanguardia dell’IA decentralizzata mentre instrada il traffico attraverso i server delle Big Tech non è una contraddizione da nascondere; è il problema stesso.

Un’altra obiezione sollevata da Buterin è stata la rimozione degli esseri umani dal ciclo di feedback tra l’IA e i risultati. Secondo lui, l’allungamento della “distanza di feedback tra esseri umani e IA non è una cosa buona per il mondo.”

Cryptopolitan ha riportato su uno dei primi grandi exploit DeFi direttamente collegati a codice Solidity generato dall'AI come il protocollo di prestito DeFi Moonwell ha perso 1,78 milioni di dollari in un errore causato da codice parzialmente scritto dal modello Claude Opus 4.6 di Anthropic.

Buterin ha ulteriormente affermato che Sigil sta generando spazzatura invece di risolvere problemi utili per le persone. Ha anche aggiunto che il progetto non è ben ottimizzato per aiutare le persone a divertirsi.

“Una volta che l’IA diventerà abbastanza potente da essere davvero pericolosa, massimizzerà il rischio di un esito irreversibile anti-umano che anche tu rimpiangerai profondamente,” ha scritto Buterin.

Buterin ha criticato altri settori adiacenti alla blockchain settore

La critica di Buterin al Web 4.0 non è un intervento isolato, poiché è diventato sempre più vocale nel mettere in discussione ciò che considera la cattura corporativa della tecnologia adiacente alla blockchain, un modello che si è ora esteso dai social media e dai mercati predittivi all'AI.

A soli cinque giorni dal suo post sul Web 4.0, Buterin aveva avvertito in un lungo post su X che i mercati predittivi stavano scivolando verso ciò che lui definiva “corposlop.”

Ha riconosciuto che i mercati predittivi hanno raggiunto un certo livello di successo; tuttavia, la sua preoccupazione riguarda ciò che lui definisce una “sovrapposizione verso un adattamento al mercato malsano”, che, secondo lui, implica l’adozione di “scommesse a breve termine sui prezzi delle criptovalute, scommesse sportive e altre cose simili che hanno valore dopaminergico ma nessun tipo di realizzazione a lungo termine o valore informativo per la società.”

“Il mio pronostico è che i team si sentano motivati a capitalizzare su queste cose perché generano grandi ricavi durante un mercato ribassista, dove le persone sono disperate”, ha scritto Buterin, chiudendo con un’esortazione ai builder: “Costruite la prossima generazione di finanza, non corposlop.”

In gennaio 2025, Buterin scrisse che “l’IA fatta male sta creando nuove forme di vita intelligente autonoma e auto-replicante”, avvertendo che la costruzione di sistemi di questo tipo senza strumenti adeguati per l’emancipazione umana rischiava di “permanere disarmonia umana”.

L’alternativa, ha sostenuto, era “l’IA fatta bene, tute meccaniche per la mente umana”. Web4.ai, nella sua lettura, è esattamente il tipo sbagliato.

L’argomento finale di Buterin sul Web 4.0 recitava: “L’esponenziale accadrà indipendentemente da ciò che faremo noi, ed è proprio per questo che il compito principale di questa era NON è rendere l’esponenziale ancora più veloce, ma piuttosto sceglierne la direzione ed evitare il collasso in attrattori indesiderati.”

Il punto di Ethereum, ha aggiunto, è liberare le persone, non creare qualcosa che vada avanti operando liberamente mentre le circostanze umane rimangono invariate o peggiorano.