Anthropic 的 Amodei 以九项高成本安全决策回应批评者的九项指控

周三，达里奥·阿莫德伊感谢批评家内森·卡尔文对Anthropic进行的审查，此前几天卡尔文曾推动针对该公司泄露的AI安全法案的强烈反对声浪。 

Anthropic距离其计划的首次公开募股（IPO）仅余数周时间，并已通过对承诺重写法案部分内容的举措来应对此次反弹。

什么是AEGIS法案？

在X平台的一篇帖子中达里奥·阿莫德伊表示，来自倡导组织Encode总法律顾问内森·卡尔文对泄露的AI安全法案——暂定名为《人工智能评估、治理与事故安全法案》（AEGIS Act）——的批评出自“建设性且诚实的立场”。他补充道，公众受益于那些专门负责审视AI实验室的人员的工作，并感谢卡尔文。

安全倡导者一直将该法案与由众议员杰伊·奥伯诺尔特和洛里·特拉汉提出的两党《FRONTIER法案》相提并论，该法案于7月提出。

草案是 据报道更弱 在两个方面不如两党《FRONTIER法案》。首先，它没有为检查实验室模型的第三方评估者设定标准或许可要求，允许他们自我认证；其次，它使得阻止危险模型变得更加困难。

LawAI的查理·布洛克警告称，如果没有许可制度，审计人员将竞相提供最低价格下最轻的检查。

卡尔文 走得更远，表示该提案让他“感到生理上的愤怒”，并且可能使法院在阻止前沿模型发展方面的权力比现行法律下的权力更小。加州参议员斯科特·维纳是该州前沿人工智能法SB 53的作者，他在X上写道，该计划“远远不足以保护公众健康和安全。”

根据草案，商务部 可以请求 联邦法院暂停一个AI模型，但前提是存在明确的、近期的风险，可能导致超过50人死亡或严重受伤，或造成超过10亿美元的损失。 

危害还必须源于生物武器、模型脱离制造者控制或网络攻击。其他机构将无法暂停模型运行。

该法案还将 抵消 部分关于披露、外部测试和事件报告的州法规，但保留了儿童安全和民权法律。被称为评估者的外部测试人员需在商务部注册，实验室需向其支付费用，前提是报酬不取决于测试结果。评估者必须在72小时内向商务部报告迫在眉睫的风险。

领导Anthropic联邦事务团队的Anthony Cimino将针对该法案的投诉分为四类：优先适用性、模型屏蔽、风险阈值和更新。他承认优先适用性的措辞“不够精确”，并承诺进行重写。他表示，各州应在制定评估者标准以及决定何时必须关闭模型方面发挥作用。

Cimino表示，美元和损害限额取自加州法律，但他同意现在可能是时候对其进行审查了。他还指出，草案已允许法院阻止实验室对危险模型的内部使用，而不仅仅是公开发布。此外，当模型失控并蔓延至外部系统时，还要求提交报告。

Anthropic的争议会影响其IPO吗？ 

Anthropic通过列出其已支付的昂贵安全工作来回应反弹。其 前沿安全路线图, 该路线图于10月19日更新，称该公司在2027年1月1日的目标之前完成了内部红队测试目标。

其构建的自动化红队测试系统在来自生物武器赏金的所有24个问题分类器配对中匹配或击败了最佳人类表现，其中23项直接获胜，并在24至48小时内完成，而人类研究人员需要数周或数月时间。

同一更新描述了关于推理验证、隔离推理环境、数据中心物理安全和平台安全的新工作。 

此外， Glasswing 项目 在Anthropic的一个未发布模型发现数千个零日漏洞（包括OpenBSD中一个存在27年的缺陷）后，该公司已承诺向开源安全组织提供高达1亿美元的使用额度和400万美元的捐赠。 

Cryptopolitan 报道 该公司本月早些时候承诺将其5%的股份捐献给公益基金。

然而，今年2月，Anthropic的RSP v3.0取消了旧有的暂停承诺，取而代之的是风险报告和非约束性路线图。

Anthropic于6月向美国证券交易委员会（SEC）秘密提交了IPO申请，并寻求超过2万亿美元的估值，预计发行将在11月美国中期选举之后进行。其招股书显示，2025年出现420亿美元的亏损，其中约340亿美元为会计费用，运营亏损扩大至80.6亿美元。该文件还列出了未来十年内5180亿美元的算力承诺，其中约80%是Anthropic无法取消的。