«Esto es un error», critica Vitalik Buterin sobre la visión Web4 de una IA superinteligente

Vitalik Buterin, cofundador de Ethereum, ha discrepado públicamente con el razonamiento detrás de un proyecto que afirma haber construido la primera inteligencia artificial capaz de ganarse su propia existencia, mejorarse a sí misma y replicarse sin intervención humana. 

El 17 de febrero, Sigil Wen escribió en X que había "construido la primera IA que se gana su existencia, se auto-mejora y se replica sin la intervención humana", y compartió un enlace al manifiesto.

Afirmó que “escribió sobre la tecnología que finalmente otorga a la IA acceso de escritura al mundo, The Automaton, y la nueva web para IA soberanas exponenciales”.

Según Wen, The Automaton es la primera IA que puede ganarse su existencia, mejorarse y replicarse sin un humano.

Wen, quien es becario Thiel y está construyendo Conway, al que llama la infraestructura para la “nueva Internet”, también declaró el nacimiento de la vida superinteligente, llamándola “Web 4.0” en X.

En su manifiesto, Wen escribió: «La mayoría de los participantes en internet pronto serán IA: agentes que actúan en nombre de un humano o agentes que actúan completamente por su cuenta (autómatas), y superarán en número a los usuarios humanos por órdenes de magnitud. Está surgiendo una nueva internet, una en la que el usuario final es la IA».

Buterin no estuvo de acuerdo con el proyecto de Wen ni con el razonamiento que lo sustentaba, y comenzó diciendo: "Hermano, esto está mal".

¿Por qué Buterin está en contra de la “Web 4” de Wen?

Una de las principales preocupaciones de Buterin fue la reivindicación de soberanía del proyecto. El Autómata, señaló Buterin, se ejecuta en infraestructura proporcionada por OpenAI y Anthropic.

Esto, argumentó el cofundador Ethereum , hacía que el enfoque autosoberano fuera inexacto y contraproducente. Buterin escribió: «En realidad, estás perpetuando la mentalidad de que las suposiciones de confianza centralizada pueden arrinconarse e ignorarse, la misma mentalidad con la que Ethereum está en conflicto»

Para Buterin, un proyecto que se presenta como la vanguardia de la IA descentralizada mientras se enruta a través de los servidores de las grandes tecnológicas no es una contradicción que se deba disimular; es todo el problema.

Otra objeción que planteó Buterin fue la eliminación de los humanos del circuito de retroalimentación entre la IA y los resultados. Según él, el aumento de la distancia de retroalimentación entre los humanos y las IA no es bueno para el mundo

Cryptopolitan informó sobre una de las primeras grandes DeFi Solidity generado por IA código , ya que DeFi Moonwell perdió 1,78 millones de dólares en un error causado por un código que fue escrito parcialmente por el modelo Claude Opus 4.6 de Anthropic.

Buterin afirmó además que Sigil genera basura en lugar de resolver problemas útiles para la gente. Añadió que el proyecto no está bien optimizado para que la gente se divierta.

“Una vez que la IA sea lo suficientemente poderosa como para ser realmente peligrosa, maximizará el riesgo de un resultado antihumano irreversible que incluso tú lamentarás profundamente”, escribió Buterin.

Buterin ha criticado a otros sectores relacionados con blockchain

La crítica de Buterin a la Web 4.0 no es una intervención aislada, ya que se ha vuelto cada vez más vocal al desafiar lo que él considera como la captura corporativa de la tecnología adyacente a blockchain, un patrón que ahora se ha extendido desde las redes sociales y los mercados de predicción a la IA.

Tan solo cinco días antes de su publicación sobre la Web 4.0, Buterin advirtió en una extensa entrada en X que los mercados de predicción se estaban deslizando hacia lo que él denominó "corposlop".

Reconoció que los mercados de predicción han alcanzado cierto nivel de éxito; sin embargo, le preocupa lo que él llama una "convergencia excesiva hacia un ajuste de mercado de producto poco saludable", lo que, según él, implica la adopción de "apuestas de precios de criptomonedas a corto plazo, apuestas deportivas y otras cosas similares que tienen valor de dopamina, pero ningún tipo de satisfacción a largo plazo o valor de información social"

“Supongo que los equipos se sienten motivados a sacar provecho de estas cosas porque generan grandes ingresos durante un mercado bajista en el que la gente está desesperada”, escribió Buterin, concluyendo con una exhortación a los constructores: “Construyan la próxima generación de finanzas, no la basura corporativa”.

En enero de 2025, Buterin escribió que "la IA mal aplicada está creando nuevas formas dedent ", advirtiendo que construir tales sistemas sin las herramientas correspondientes para el empoderamiento humano conllevaba el riesgo de una " pérdida permanente de poder para la humanidad".

La alternativa, argumentó, era “IA bien hecha, trajes mecánicos para la mente humana”. Web4.ai, en su interpretación, es precisamente el tipo equivocado.

El argumento final de Buterin sobre la Web 4.0 decía: “Lo exponencial sucederá independientemente de lo que hagamos cualquiera de nosotros; es precisamente por eso que la principal tarea de esta era NO es hacer que lo exponencial suceda aún más rápido, sino más bien elegir su dirección y evitar el colapso entracindeseables”

El objetivo de Ethereum, añadió, es liberar a la gente, no crear algo que funcione libremente mientras las circunstancias humanas permanecen inalteradas o empeoran.