维塔利克·布特林倡导人类引导的人工智能系统以保护价值观并防止权力集中

以太坊联合创始人维塔利克·布特林公布了他所称的由人类控制的人工智能（AI）的大胆计划，强调这种情况对于避免权力集中且人类生存受到威胁或无法挽回的反乌托邦未来是必要的。

这位联合创始人认为 AI 的能力 与银行. 他认为 AI 可以比人类更强大，因此将推动进化并在多个行业中带来最佳创新实践。

但布特林仍然担心，如果 AI 变得过于自主，它们可能会开始与人类利益产生严重冲突。作为一种意外释放的力量，人工智能可能会实现快速飞跃，从而终结人类生命。

人工智能现在发展如此迅速，并正在制定自己的目标。在此过程中，它可能会创造一个让一些人感到恐惧但对其他人运作良好的社会。在进化史上，这种模式很熟悉且往往具有悲剧性。

尽管在当前的立法辩论中显得遥远，但提供来自 AI 的存在性风险非平凡机会的民意调查使这种未来变得可信。这些发现强调了建立能够明智引导 AI 发展的结构至关重要。

AI 赋予人类实现伟大智力成就的能力

Buterin 将 AI 视为一种可以赋予个人人类权力并实现伟大智力和实际成就的工具。这种方法有助于加深 AI 与人类的协作，并将技术视为人类代理的延伸。

鉴于此，脑机接口（BCI）已成为一种具有潜在益处的手段。BCI 提供了人类与人工智能之间的直接神经通信堆栈，将人类与 AI 交流之间的预期从秒级减少到毫秒级。

这些进步可以确保人类决策保持控制，技术以有意义的方式服务于人们，并且自动化系统永远不会在人类权威之外运行。这种分离正通过 BCI 得到加强，随着智能系统与人类认知的整合，BCI 将保护自主权。

布特林同样强调了在决策过程中 AI 系统中存在一些关键的“提炼的人类判断”。这是通过激活群体智慧并提供可能的道德输入来引导 AI 行为的概念。开发人员将人类判断插入 AI 系统也至关重要，以便技术更贴近社会规范和期望。

AI 去中心化以防范权力集中

布特林的论点还依赖于 AI 开发和控制的去中心化。他警告说，AI 技术成为少数大型代理的垄断，从而控制极端权力集中的情况。因此，塑造 AI 发展的权力实际上可能只掌握在少数人手中，这可能对整个社会不利。

区块链和零知识证明是帮助实现去中心化的使能技术，这可能是社区间更公平的 AI 开发方法之一。

这使 AI 研究民主化，限制了权力的积累，并确保 AI 是一种集体利益，而非特定利益。

布特林特别指出，去中心化加速主义是技术的快速发展，以捍卫个人自主权免受集中控制。它侧重于提高防御能力，以赶上强大的 AI系统的信任。 在此过程中，开发保护性技术应优先于建立对齐的社会。

凭借其广泛的视野和普遍的问题解决思维倾向，布特林指出了在技术轨迹上进行潜在纠正的必要性。现在，他呼吁所有利益相关者——从研究人员和政策制定者到普通公众——共同努力，主动塑造 AI 的轨迹。

referring to 技术发展的监管和治理，这些优先事项的核心是围绕 AI 制定伦理准则和监管框架的需要。