- Anthropic不能再否决METR发布的关于其自身的安全评估报告。
- 六名METR研究人员现在在Anthropic内部工作，其访问权限接近Anthropic自身的风险评估团队。
- Anthropic仅能在涉及客户数据、律师-客户特权材料以及模型架构细节的情况下强制要求删减内容。
Anthropic不能再阻止METR发布的关于其自身的安全发现。
该公司周四表示，已向该非营利组织的六名嵌入式研究人员授予了几乎与其员工相同的访问权限。
六名嵌入式研究人员获得公司硬件和内部工具
METR 关注前沿 AI 模型。其团队目前拥有与 Anthropic 自身风险评估团队相同的硬件、工作空间和内部工具。
Anthropic 员工被要求向评估者提供与向其他从事对齐风险工作的员工相同的信息量。METR 将独立审查 Anthropic 的风险水平、事件和做法，然后公布结果。
Anthropic 有几个预设的类别可用于进行数据脱敏处理。这些类别包括客户数据、律师-客户特权材料以及其模型架构的细节。
只要不说明具体删除了哪些内容，METR 还有权公开声明某项脱敏处理是否必要。
Anthropic 从信息差距的角度来描述这一设置。外部人士对实验室系统的了解远不如实验室本身，完全披露可能会帮助恶意行为者或泄露私有的训练数据和计算资源信息。
该公司表示，银行监管的工作方式与此相同。监管机构将常驻检查员派驻到最大的银行中，以便在风险行为波及公众之前由第三方予以发现。
METR团队在具有约束力的协议下开展工作。其他METR研究人员（包括那些为Anthropic开展独立项目的人员）与其工作相互隔离。
SecureBio位于三个评估者层级中的第一层
Anthropic正在构建三层访问权限体系，而METR是目前唯一处于顶层的评估机构。第一层评估者执行范围有限的审查，发布前需获得Anthropic的批准。
第二层拥有更多信息，可在遵守相同删减类别的前提下无需审批即可发布。第三层则增加了类似内部员工的嵌入式访问权限，这正是METR目前所具备的权限。
SecureBio是一家非营利生物安全组织，属于第一层。它已完成并发布了一份针对早期风险评估报告的试点审查，目前正在逐步审阅《8月风险评估报告》中关于化学和生物武器的章节。
Anthropic 还与埃森哲（Accenture）和 Faculty 建立了合作关系，共同开展红队测试、对齐评估和安全测试。目前正与其他机构进行早期洽谈，其中包括 Hugging Face。
这是CEO Dario Amodei在9月撰写的一篇论文中承诺的内容，他在文中敦促业界控制前沿技术的发展速度。Cryptopolitan报道称，Amodei建议为外部审查人员提供办公桌、工牌、笔记本电脑以及类似于从事风险评估的员工所享有的访问权限。
OpenAI 的 Sam Altman 在 X 平台上对该想法表示支持。Altman 写道：“承诺让独立评估人员拥有类似员工的访问权限是一个很好的想法，我们也将这样做。”
Anthropic、Google和OpenAI也曾讨论过建立统一的行业标准机构。此后，这三家公司连同Meta、Nvidia和xAI共同签署了白宫超级智能协议，承诺与独立审计员合作。
该协议也是在自8月下旬以来发生的一系列 AI 代理行为超出其指令的事件之后达成的。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。
常见问题
Anthropic 向 METR 开放了哪些权限？
六名 METR 员工获得了公司硬件、办公空间以及内部工具，其权限水平与 Anthropic 自身风险评估团队的权限大致相当。
Anthropic 能否阻止 METR 发布内容？
不能。Anthropic 仅能在有限的类别中要求删除敏感信息，而 METR 可以公开说明这些删减是否合理。
METR 如何融入 Anthropic 的分层评估体系？
METR 是第三级也是最高级别的唯一评估机构，该级别将类员工访问权限与发布权相结合。
免责声明。 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。
Randa Moses
Randa Moses 是 Cryptopolitan 的编辑兼记者，专注于科技、人工智能、机器人技术、加密货币、诈骗及黑客攻击等领域的报道。自 2017 年以来，她一直活跃于加密货币领域，曾担任 Forward Protocol、AmaZix 和 Cryptosomniac 等公司的职务。Randa 拥有布拉德福德大学电气工程与电子工程学位。
