- 以太坊联合创始人Vitalik Buterin表示，人工智能应使人类更强大、更聪明。
- 不受控制的人工智能可能会变得危险。
- 人工智能应遵循人类的指导，成为助手。
以太坊联合创始人 Vitalik Buterin 呼吁谨慎开发人工智能（AI），并表示人工智能应帮助人类变得更强，而不是创建可能剥夺人们控制权的系统。
Buterin 撰文探讨了人工智能未来的发展方向。在 一系列帖子中，以太坊联合创始人明确表示，人工智能应赋能人类——而非削弱人类的力量。
人工智能应帮助人类，而非接管一切
他警告称，“设计不良的人工智能系统可能会产生某种近乎不可控、自我复制的实体。”
Buterin 写道：“错误的人工智能正在创造新型独立的、自我复制的智能生命；正确的人工智能则是人类思维的机甲套装。如果我们只做前者而不做后者，我们面临人类永久失去力量的风险；如果我们做后者，将迎来繁荣的超级智能人类文明。”
他认为，人工智能应增强人类的思维、创造力等，就像增强用户力量的“机甲套装”一样。相比之下，他指出了缺乏人类监督的自主人工智能系统的危险，认为这最终可能导致我们失去对所创造技术的控制。
Buterin 进一步建议，应使用“提炼的人类判断”作为集体提升决策能力的手段。他进一步将其描述为创建能够模仿高质量人类决策过程，但比人类更高效运行的系统。
因此，人类可以在享受人工智能能力带来的益处的同时，保持对技术的控制。
他解释说，后者可以通过集体层面的“提炼的人类判断”来实现；集体人类智慧可以提供指导，帮助人工智能放大而非替代人类的能力。
不受控制的人工智能系统的风险
Buterin 进一步澄清，新兴的人工智能工具——例如此类实时视频生成软件——展示了一个确实能赋能的人工智能系统，而“被动系统”的方式（例如文本转图像模型）中，用户的影响非常小。
他补充道，“提示并等待”并非如此运作，而是需要“瞄准并不断进行实时调整”，这表明人类与人工智能之间应建立更紧密、更具赋能性的动态关系。
随后，他谈到了人工智能代理（AI agents）：即无需人类输入即可执行任务的程序。他解释了两种类型：一种进行长期、复杂的规划；另一种则是更简单的人工智能工具，如聊天机器人，用于取代图形用户界面（GUI）。他说：“聊天机器人取代 GUI，成为通往一切事物的接口。后者太棒了！”
最终，Buterin 倡导负责任的人工智能开发，以赋能人类。他不支持不受控制、无拘无束地走向自主系统，而是认为工具应服务于增强人类能力。他认为，“如果做得好，人工智能将引领一个繁荣的超级智能文明。”
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
