“这是错的”，Vitalik Buterin抨击Web4超级智能AI愿景

以太坊联合创始人Vitalik Buterin公开反对一个声称构建了第一个能够赚取自身存在、自我改进并无需人类参与即可复制的人工智能的项目背后的推理。 

2月17日，Sigil Wen 在X上写道，他“构建了第一个赚取其存在、自我改进并无需人类参与即可复制的AI”，并分享了一份宣言的链接。

他表示，他“撰写了最终赋予AI写入世界权限的技术，The Automaton，以及用于指数级主权AI的新网络。”

根据Wen的说法，The Automaton是第一个能够赚取其存在、自我改进并无需人类参与即可复制的AI。

Wen是Thiel Fellow，正在构建Conway，他称之为“新互联网”的基础设施，他还宣布超级智能生命的诞生，在X上称之为“Web 4.0”。

在他的宣言中，Wen写道：“互联网上的大多数参与者很快将成为AI——代表人类行动的代理，或完全自主行动的代理（自动化人）——它们的数量将是人类用户的几个数量级。一个新的互联网正在涌现——其中一个终端用户是AI。”

Buterin不同意Wen的项目及其背后的推理，开篇写道，“伙计，这是错的。”

为什么Buterin反对Wen的‘Web 4’？

Buterin突出的一个主要担忧是该项目的自治权主张。Buterin指出，The Automaton运行在OpenAI和Anthropic提供的基础设施上。

这位以太坊联合创始人认为，这使得自我主权的框架既不准确又适得其反。Buterin写道：“你实际上是在延续那种可以将集中式信任假设放在角落并忽视的心态，这正是以太坊与之作战的心态。”

对于Buterin来说，一个自称是去中心化AI先锋却通过大型科技公司服务器路由的项目，不是一个可以掩盖的矛盾，而是整个问题所在。

Buterin提出的另一个反对意见是将人类从AI和结果之间的反馈循环中移除。据他称，“人类和AI之间反馈距离的延长对世界来说不是一件好事。”

Cryptopolitan 报道了一起与AI生成的Solidity 代码直接相关的主要DeFi漏洞之一，DeFi借贷协议Moonwell因Anthropic的Claude Opus 4.6模型部分编写的代码错误而损失了178万美元。

Buterin进一步表示，Sigil正在生成垃圾，而不是为人们解决有用的问题。他还补充说，该项目并没有很好地优化以帮助人们获得乐趣。

“一旦AI变得足够强大以至于真正危险，它就在最大化不可逆转的反人类结果的风险，即使你也会深深地后悔，”Buterin写道。

Buterin 曾批评其他与区块链相关的 领域

Buterin对Web 4.0的批评并非孤立的干预，因为他越来越大声地挑战他认为的与区块链相关技术的公司控制，这一模式现在已经从社交媒体和预测市场扩展到AI。

就在他的Web 4.0帖子发布的前五天，Buterin在X上的一篇长文中警告称，预测市场正滑向他所谓的“公司垃圾”。

他承认预测市场取得了一定的成功；然而，他的担忧是他所谓的“过度收敛到不健康的产品市场契合度”，据他称，这涉及接受“短期加密货币价格投注、体育博彩和其他类似具有多巴胺价值但没有长期满足感或社会信息价值的事物”。

"我猜团队感到有动力去利用这些东西，因为它们在不景气时期带来了大量收入，而人们此时非常绝望，" Buterin写道，最后向建设者发出呼吁："构建下一代金融，而不是公司垃圾。"

2025年1月，Buterin写道，“做错的AI正在创造新型独立的自我复制智能生命”，并警告说，在没有相应的人类赋权工具的情况下构建此类系统，可能会带来“永久的人类去权”的风险。

他认为，替代方案是“做对的AI，人类心智的机甲服”。在他的解读中，Web4.ai正是错误的那种。

Buterin关于Web 4.0的结语是：“无论我们做什么，指数增长都会发生，这正是为什么这个时代的主要任务不是让指数增长发生得更快，而是选择其方向，并避免陷入不理想的吸引子。”

他补充说，以太坊的目的是解放人们，而不是创造某种脱离自由运作而人类状况保持不变或恶化的东西。