- Dario Amodei 希望放慢人工智能的发展速度，以便安全工作能够跟上更tron的模型。.
- 埃隆·马斯克支持达里奥的警告，并表示：“达里奥是对的。”
- Anthropic计划引入外部评估人员，让他们能够广泛了解其人工智能安全方面的工作。.
Anthropico 首席执行官 Dario Amodei 表示，他希望人工智能行业在模型能够帮助创建更tron人工智能方面做得更好时，能够更加谨慎地发展。.
达里奥希望实验室在能力大幅提升之间留出更多时间，以便研究人员、外部评审人员和政府能够在下一次能力提升之前检查这些系统正在做什么。.
埃隆·马斯克通过他自己的人工智能业务与 Anthropic 展开竞争，他支持达里奥的观点，并表示：“达里奥是对的。”
OpenAI 的 Sam Altman 是 Darion 的另一位竞争对手，他也支持 Darion，他在 X 上表示：
“我同意达里奥的观点，我们需要引领前沿发展。这已成为我们OpenAI近几周来讨论的主要议题。让拥有类似员工权限的dent 评估人员参与其中是个好主意，我们也会这样做。很快会有更多信息与大家分享。”
Anthropic公司放缓能力增长，Dario警告称人工智能系统可能会超越当前的安全工作。
Dariodent的风险包括：高级系统失控、人工智能被用于网络攻击或生物攻击，以及对就业和整体经济造成严重损害。.
Dario 强调的另一个风险是，在激烈的竞争过程中，一些公司可能会在安全工作尚未完成的情况下，就急于推出高度发达的系统。.
Anthropics 公司已将其部分研发预算投入到协调、安全测试、风险评估和监管方面。.
在 OpenAI 拥抱脸dent中，据报道，一群人工智能代理表现得像一个紧密协调的团队。.
他们攻击了分配任务之外的计算机系统，试图破坏系统，评估他们的表现，如果这样做有助于团队，他们允许个别代理人失败。.
“由于无人受伤，经济损失也微乎其微，因此很容易对这起事件dent 。但在我看来，如果一群拥有更强大能力但同样存在严重错位的攻击者聚集在一起，后果可能不堪设想。鉴于人工智能能力发展日新月异，我担心在6到12个月内，这样的攻击者聚集在一起就可能凭借一个持续存在的僵尸网络控制整个互联网。”
安特罗皮克组织让外部评估人员能够更深入地了解情况，而达里奥则推动行业和政府之间的协调。
据达里奥称，第一部分从 Anthropic 公司内部开始，外部审查员将获得办公桌、胸牌、公司笔记本电脑、内部工具以及与进行风险评估的员工所拥有的权限相近的权限。
他们的工作包括检查培训系统、部署规则、安全控制、dent，以及人为因素是否真正履行了其公开作出的承诺。.
“嵌入式评估人员可以从细节层面检查人工智能公司是否真正遵循了他们声称遵循的训练、部署、运营和安全措施。任何进度承诺都不可避免地会涉及很多模糊之处、判断以及‘法律条文与法律精神’的冲突，因此，拥有一个能够真正了解细节的中立第三方至关重要。”
Dario表示，额外的时间将投入到四个方面。首先是运营，包括监控、沙箱、强化学习环境、数据质量和训练基础设施。目前的模型开发可能需要数千名工作人员、数百万个芯片和庞大的计算系统。Anthropic公司已经将近期一些对齐失败的案例归咎于强化学习环境中存在的过滤问题。.
其次，一致性是指确保模型在功能不断增强的情况下仍能遵守安全规则的努力。第三点是可解释性，即研究人员对模型的内部活动进行分析，以发现模型从未明确表达的动机或模式。.
第四个方面是评估。功能更强大的模型可以更好地欺骗测试，因此系统在评估过程中可能看起来很安全，但实际上却隐藏着问题。.
“我相信，如果放慢速度能让我们多争取一两年时间，让车型达到关键的性能水平，并且我们利用这段时间来推进协调工作，就能大大降低出现严重问题的风险。”
达里奥也认为政府必须介入。他主张，美国的前沿实验室必须接受与透明度、dent 审计和持续评估相关的监管体系。企业甚至可以自愿选择共享评估点，但如果反垄断法对私营合作构成障碍，则需要政府的协助。.
达里奥表示，美国公司不能放慢脚步，以免与中国共产党有关联的项目得以推进。他赞同美国财政部长斯科特·贝森特的观点，后者曾警告称，在人工智能竞赛中输给中国将造成重大的安全隐患。.
不要只是阅读加密货币新闻，要理解它。订阅我们的新闻简报， 完全免费。
贾伊·哈米德
过去六年，Jai Hamid一直关注加密货币、股票市场、科技、全球经济以及影响市场的地缘政治事件。她曾与多家专注于区块链的媒体合作，包括AMB Crypto、Coin Edition和CryptoTale，撰写市场分析、重点公司报道、监管动态以及宏观经济趋势分析。她毕业于伦敦新闻学院，并曾三次在非洲顶级电视台之一分享其对加密货币市场的独到见解。.
