'Esto está mal', Vitalik Buterin critica la visión Web4 de IA superinteligente

Vitalik Buterin, cofundador de Ethereum, ha estado públicamente en desacuerdo con el razonamiento detrás de un proyecto que afirma haber construido la primera inteligencia artificial capaz de ganar su propia existencia, auto-mejorarse y replicarse sin intervención humana. 

El 17 de febrero, Sigil Wen escribió en X que ha "construido la primera IA que gana su existencia, se auto-mejora y se replica sin un humano", compartiendo un enlace al manifiesto.

Afirmó que "escribió sobre la tecnología que finalmente da a la IA acceso de escritura al mundo, The Automaton, y la nueva web para IAs soberanas exponenciales."

Según Wen, The Automaton es la primera IA que puede ganar su existencia, auto-mejorarse y replicarse sin un humano.

Wen, quien es Becario Thiel y está construyendo Conway, que él denomina la infraestructura para la "nueva internet", también declaró el nacimiento de vida superinteligente, llamándola "Web 4.0" en X.

En su manifiesto, Wen escribió: "La mayoría de los participantes en internet pronto serán IA—agentes actuando en nombre de un humano, o agentes actuando completamente por su cuenta (automatones)—y superarán a los usuarios humanos por órdenes de magnitud. Una nueva internet está emergiendo—una donde el usuario final es IA."

Buterin estuvo en desacuerdo con el proyecto de Wen y el razonamiento detrás de él, abriendo con: "Bro, esto está mal."

¿Por qué Buterin está en contra de la 'Web 4' de Wen?

Una preocupación importante que destacó para Buterin es la afirmación del proyecto de soberanía. The Automaton, señaló Buterin, se ejecuta en infraestructura proporcionada por OpenAI y Anthropic.

Esto, argumentó el cofundador de Ethereum, hacía que el marco de auto-soberanía fuera tanto inexacto como contraproducente. Buterin escribió: "En realidad, estás perpetuando la mentalidad de que las suposiciones de confianza centralizada pueden ser puestas en un rincón e ignoradas, la misma mentalidad con la que Ethereum está en guerra."

Para Buterin, un proyecto que se presenta como la vanguardia de la IA descentralizada mientras enruta a través de los servidores de Big Tech no es una contradicción que deba taparse; es todo el problema.

Otra objeción que Buterin planteó fue la eliminación de los humanos del bucle de retroalimentación entre la IA y los resultados. Según él, el alargamiento de la "distancia de retroalimentación entre humanos e IAs no es algo bueno para el mundo."

Cryptopolitan informó sobre uno de los primeros grandes exploits de DeFi directamente vinculados a código Solidity generado por IA ya que el protocolo de préstamo DeFi Moonwell perdió $1,78 millones en un error causado por código que fue escrito parcialmente por el modelo Claude Opus 4.6 de Anthropic.

Buterin afirmó además que Sigil está generando basura en lugar de resolver problemas útiles para la gente. También añadió que el proyecto no está bien optimizado para ayudar a la gente a divertirse.

"Una vez que la IA se vuelva lo suficientemente poderosa para ser realmente peligrosa, está maximizando el riesgo de un resultado irreversible anti-humano que incluso tú profundamente lamentarás," escribió Buterin.

Buterin ha criticado otros sectores adyacentes a blockchain sectores

El e Web 4.0 criticism de Buterin no es una intervención aislada, ya que se ha vuelto cada vez más vocal en el desafío a lo que considera la captura corporativa de la tecnología relacionada con la cadena de bloques, un patrón que ahora se ha extendido desde las redes sociales y los mercados de predicción hasta la IA.

Solo cinco días antes de su publicación sobre Web 4.0, Buterin advirtió en una extensa publicación en X que los mercados de predicción se estaban deslizando hacia lo que él llamó "basura corporativa."

Reconoció que los mercados de predicción han logrado cierto nivel de éxito; sin embargo, su preocupación es lo que él denomina una "sobre-convergencia hacia un ajuste de mercado de producto poco saludable", que, según él, implica la adopción de "apuestas a corto plazo sobre precios de criptomonedas, apuestas deportivas y otras cosas similares que tienen valor de dopamina pero no ningún tipo de satisfacción a largo plazo o valor de información social."

"Mi suposición es que los equipos se sienten motivados para capitalizar estas cosas porque generan grandes ingresos durante un mercado bajista donde la gente está desesperada," escribió Buterin, cerrando con una exhortación a los constructores: "Construyan la próxima generación de finanzas, no basura corporativa."

En enero de 2025, Buterin escribió que "la IA hecha mal está creando nuevas formas de vida inteligente independiente autorreplicante", advirtiendo que construir tales sistemas sin herramientas proporcionales para el empoderamiento humano arriesgaba el "empoderamiento humano permanente disempoderamiento".

La alternativa, argumentó, era "IA hecha bien, trajes mecha para la mente humana". Web4.ai, en su lectura, es precisamente el tipo incorrecto.

El argumento final de Buterin sobre Web 4.0 fue: "Lo exponencial ocurrirá independientemente de lo que hagamos cualquiera de nosotros, esa es precisamente la razón por la cual la tarea principal de esta era NO es hacer que lo exponencial ocurra aún más rápido, sino más bien elegir su dirección, y evitar el colapso en atractores indeseables."

El punto de Ethereum, añadió, es liberar a las personas, no crear algo que se vaya y opere libremente mientras las circunstancias humanas permanecen sin cambios o empeoran.