‘Isso está errado’, Vitalik Buterin critica visão Web4 de IA superinteligente

Vitalik Buterin, co-fundador do Ethereum, discordou publicamente do raciocínio por trás de um projeto que afirma ter construído a primeira inteligência artificial capaz de ganhar sua própria existência, melhorar a si mesma e se replicar sem envolvimento humano. 

Em 17 de fevereiro, Sigil Wen escreveu no X que ele “construiu a primeira IA que ganha sua existência, melhora a si mesma e se replica sem um humano”, compartilhando um link para o manifesto.

Ele afirmou que “escreveu sobre a tecnologia que finalmente dá à IA acesso de gravação ao mundo, The Automaton, e a nova web para IAs soberanas exponenciais .”

De acordo com Wen, The Automaton é a primeira IA que pode ganhar sua existência, melhorar a si mesma e se replicar sem um humano.

Wen, que é um Bolsista Thiel e está construindo o Conway, que ele denomina a infraestrutura para a “nova internet”, também declarou o nascimento da vida superinteligente, chamando-a de “Web 4.0” no X.

Em seu manifesto, Wen escreveu: “A maioria dos participantes na internet logo será IA—agentes agindo em nome de um humano, ou agentes agindo inteiramente por conta própria (automatons)—e eles superarão os usuários humanos por ordens de magnitude. Uma nova internet está emergindo—uma onde o usuário final é IA.”

Buterin discordou do projeto de Wen e do raciocínio por trás dele, começando com: “Cara, isso está errado.”

Por que Buterin é contra a ‘Web 4’ de Wen?

Uma grande preocupação que se destacou para Buterin é a alegação de soberania do projeto. O Automaton, observou Buterin, roda em infraestrutura fornecida pela OpenAI e Anthropic.

Isso, argumentou o co-fundador do Ethereum, torna o enquadramento da soberania individual tanto impreciso quanto contraproducente. Buterin escreveu: "Você está, na verdade, perpetuando a mentalidade de que as suposições de confiança centralizada podem ser colocadas de lado e ignoradas, a própria mentalidade com a qual o Ethereum está em guerra."

Para Buterin, um projeto que se apresenta como a vanguarda da IA descentralizada, mas que roteia através dos servidores das Big Techs, não é uma contradição a ser mascarada; é o problema inteiro.

Outra objeção levantada por Buterin foi a remoção dos humanos do ciclo de feedback entre a IA e os resultados. Segundo ele, o aumento da "distância de feedback entre humanos e IAs não é uma coisa boa para o mundo."

Cryptopolitan reportou sobre uma das primeiras grandes explorações DeFi diretamente ligadas a código Solidity gerado por IA, quando o protocolo de empréstimo DeFi Moonwell perdeu US$ 1,78 milhão devido a um erro causado por código parcialmente escrito pelo modelo Claude Opus 4.6 da Anthropic.

Buterin afirmou ainda que a Sigil está gerando lixo em vez de resolver problemas úteis para as pessoas. Ele também acrescentou que o projeto não está bem otimizado para ajudar as pessoas a se divertirem.

“Uma vez que a IA se torne suficientemente poderosa para ser verdadeiramente perigosa, ela maximiza o risco de um resultado irreversível anti-humano do qual até você profundamente se arrependerá,” escreveu Buterin.

Buterin criticou outros setores adjacentes à blockchain setores

The Web 4.0 criticism by Buterin is not an isolated intervention, as he has become increasingly vocal in challenging what he regards as the corporate capture of blockchain-adjacent technology, a pattern that has now extended from social media and prediction markets to AI.

Apenas cinco dias antes de sua postagem sobre Web 4.0, Buterin alertou em uma extensa postagem no X que os mercados de previsão estavam escorregando para o que ele chamou de “corposlop” (sujeira corporativa).

Ele reconheceu que os mercados de previsão alcançaram certo nível de sucesso; no entanto, sua preocupação é o que ele denomina de "superconvergência para um ajuste de produto de mercado insalubre", que, segundo ele, envolve a adoção de "apostas de curto prazo sobre preços de criptomoedas, apostas esportivas e outras coisas semelhantes que têm valor de dopamina, mas não qualquer tipo de realização de longo prazo ou valor informativo para a sociedade."

“Minha suposição é que as equipes se sentem motivadas a capitalizar essas coisas porque trazem grande receita durante um mercado de baixa onde as pessoas estão desesperadas,” escreveu Buterin, encerrando com um exortação aos construtores: “Construa a próxima geração de finanças, não sujeira corporativa.”

In January 2025, Buterin wrote that “AI done wrong is making new forms of independent self-replicating intelligent life,” warning that building such systems without commensurate tools for human empowerment risked “permanent human disempowerment.”

A alternativa, argumentou ele, seria "IA feita corretamente, trajes mecha para a mente humana". O Web4.ai, em sua leitura, é exatamente o tipo errado.

O argumento final de Buterin sobre a Web 4.0 foi: "O crescimento exponencial acontecerá independentemente do que qualquer um de nós faça; é precisamente por isso que a tarefa principal desta era NÃO é fazer o exponencial acontecer ainda mais rápido, mas sim escolher sua direção e evitar o colapso em atratores indesejáveis."

O ponto do Ethereum, acrescentou ele, é libertar as pessoas, não criar algo que vá embora e opere livremente enquanto as circunstâncias humanas permanecem inalteradas ou pioram.