Vitalik Buterin 表示，关于 AI 工作的争论取决于人们对超级智能的定义

以太坊联合创始人 Vitalik Buterin 认为，关于先进 AI 的许多公众争论源于双方持有他们从未真正共享的假设。 

Buterin 提出的所有 AI 应用的“紧急关闭”提议遭到了批评，科技界就 AI 进步的速度及其对劳动力的影响展开了又一轮辩论。 

是什么推动了 AI 辩论？ 

在 X上的一篇帖子，以太坊联合创始人 Vitalik Buterin 表示，“AI 2040”场景支持者与其批评者之间的冲突归结于 AI 进步的速度和重要性。 

AI 2040 框架假设除非采取强力措施，否则某种形式的超级智能将在 2040 年之前出现。与此同时，批评者认为 AI 2040 支持者低估了人类协调的能力并威胁自由，但他们并不认为超级智能本身是权力集中的风险。

Buterin 承认他不知道哪种场景更接近现实。“如果我对（当前类型的）AI 是普通技术有信心，我会站在反对派阵营。如果我对超级智能将在 2030 年默认到来有信心，我会更接近 AI 2040 阵营，”他写道。 

但这位联合创始人仍对减缓或暂停 AI 开发持开放态度，如果风险变得显著。

这场辩论吸引了 AI 研究员 Yann LeCun、作家 Daniel Jeffries 和政策分析师 Adam Thierer。 

Meta（NASDAQ: META）的首席 AI 科学家 Yann LeCun 认为，AI 安全是 根本上的工程问题 可以通过仔细的迭代设计来解决，就像喷气式发动机变得可靠一样。 

LeCun 指出，“花了 50 年”才使飞机真正安全，而在我们尚未创造出具备人类水平智能的系统之前，对 AI 的恐惧为时过早。他一贯认为大型语言模型是缺乏推理和因果理解的有限“自动补全机器”。 

Harry Hawk（发帖人 @hhawk）表示，他赞同 Yann LeCun 的观点，并认为未来的 AI 系统会像飞机一样被设计为安全。他还表示，他不相信 AI 和机器人会包揽一切，不留任何工作或职位。

Buterin 回复说，这种观点否认了“如此强大以至于仅凭 AI 就能执行任何任务”的 AI 的存在，他称之为 ASI。

如何控制强大的 AI 系统？

Buterin 提出了一个“A 计划”，该计划提出了一项广泛适用的规则，要求每个人公开他们正在构建的内容，以及一个紧急关闭开关，如果情况变得危险，可以减缓或停止大型 AI 训练。

他补充说，那些天真且好意的知识分子，认为他们可以挑选哪些 AI 使用是可以接受的，哪些是不可以的，将会反对这一计划。 

Romeo Dean 促成了 Buterin 部分帖子的 称这种方法 “相当合理”，但表示在他的世界观下，其触发条件来得太晚。他补充说，他不理解批评者附加给 A 计划的“巨大负面影响”。

Buterin 承认没有完美的解决方案。“我看不到任何处理 ASI 过渡的计划不是天真的，”他写道。“也许人类被困在两个天真之间的选择中。”

《AI 2040：A 计划》报告来自前 OpenAI 员工 Daniel Kokotajlo 的 AI Futures Project。 

报告称，美国和 中国 应共同努力，将超级智能推迟到 2040 年。两国都必须公开分享所有研究。它还包含一个基于核战争逻辑的系统，双方可以在必要时摧毁对方的计算能力。他们称之为“相互保证的计算毁灭”。

AI 研究员 Richard Ngo 表示，该报告对 AI 很快到来过于担忧。他还表示，该报告没有充分考虑 AI 在每个国家内部可能造成的政治麻烦。

开源模型是解决方案吗？

贯穿整个辩论的是开源模型的地位。LeCun 在 7 月 9 日写道，AI 的最大风险是权力集中在少数主导公司手中。他还写道，“AI 主权的唯一解决方案是开源基础模型。”他的帖子获得了超过 2,900 个赞和超过 430 次转发。

作家 Daniel Jeffries， 在同一天写道，开源模型支撑着美国技术，并警告不要限制它的“短视的安全主义者和鹰派”。 

政策分析师 Adam Thierer 是 R Street 研究所的高级研究员，也是著名众议院 AI 特别工作组报告提交的作者，他已 警告说，美国 AI 治理 处于“关键十字路口”。 

他指出，国会目前采用一种 混乱、随机且秘密的过程 来审查 AI。他警告说，如果这种非正式系统增长，进步被特殊审批阻挡，它将摧毁开源 AI。 

Thierer 提议采用“无许可创新”方法，而不是严格的规则，允许人们自由构建和发布 AI。他建议利用现有法律在必要时惩罚伤害，并支持诸如新 AI 的测试区、要求某些模型保持开源以及增加 AI 研究资金等措施。