Anthropic 违抗五角大楼剥离AI保障的残酷最后通牒

Anthropic已经 表示 它不会在与美国国防部 (DoD) 关于其人工智能 (AI) 技术如何使用的斗争中退缩。

该初创公司的竞争对手OpenAI、Google和xAI去年也获得了来自美国国防部的最高2亿美元合同奖励。这些公司已同意让国防部在其军事未分类系统中出于所有合法目的使用其模型。

Anthropic 在7月与国防部签署了2亿美元合同，它是第一家将其模型集成到分类网络任务工作流中的实验室。

然而，这家人工智能初创公司最近几周一直与五角大楼进行紧张的谈判。一位熟悉谈判的人士表示，紧张局势“可以追溯到几个月前”，当时人们才公开知道Claude被用于美国抓捕委内瑞拉总统尼古拉斯·马杜罗的行动的一部分。

核心争议 过去 监控与自主 武器

Anthropic 希望确保其模型不会被用于完全自主的武器系统或对美国公民进行大规模国内监控，而美国国防部则希望能够在不受这些限制的情况下使用这些模型。

关于这些具体风险，Dario Amodei 在声明中表示：“在有限的案例中，我们认为AI可能会破坏，而不是捍卫民主价值观。一些用途也超出了当今技术能够安全可靠地做的范围。”

在扩展监控担忧时，Dario Amodei 在声明中表示，强大的AI使得能够“自动且大规模地将这些分散的、 individually innocuous 数据组装成任何个人生活的全面画面”。

他指出，虽然 Anthropic 支持将AI用于合法外国情报，但“将这些系统用于大规模国内监控与民主价值观不相容”。

威胁、最后期限与口水战

国防部长Pete Hegseth，周二在五角大楼与 Amodei 会面后，威胁要将 Anthropic 列为“供应链风险”，或援引《国防生产法》迫使公司遵守其要求。国防部于周三晚上向 Anthropic 发送了“最后和最终报价”，给予该公司直到周五东部时间下午5:01做出决定的时间。

Anthropic 的一位女发言人表示，虽然该公司在周三晚上收到了更新的措辞，但这代表了“几乎没有进展”，并且“新的措辞将我们的妥协与允许随意忽视这些保障的法律术语配对”。

面对这些压力，Dario Amodei 在声明中表示：“国防部战争声明他们只会与同意‘任何合法用途’并移除上述案例中保障的AI公司签订合同。他们威胁如果我们要维持这些保障，就会将我们从系统中移除；他们还威胁要将我们指定为‘供应链风险……无论如何，这些威胁不会改变我们的立场：我们不能在良心上同意他们的要求。”

五角大楼首席发言人 Sean Parnell 表示 周四，国防部“没有兴趣”将 Anthropic 的模型用于完全自主武器或对美国人进行大规模监控，他指出这是非法的。他强调，该机构希望公司同意允许其模型用于“所有合法目的”，称这是一个“简单、常识性的要求”。

然而，美国国防部副部长Emil Michael 周四晚上亲自攻击了 Amodei，在 X 上写道，这位高管“只想试图个人控制美国军队”。Michael 补充道：“很遗憾 Dario Amodei 是个骗子，有一个上帝情结。”

另一方面，在一封公开信中，来自 Google 和 OpenAI 的200多名员工支持 Anthropic 的立场。一位前国防部官员也对 BBC 表示，Hegseth 使用“供应链风险”一词的理由“非常薄弱”。

尽管存在冲突，Dario Amodei 在声明中表示，他“深深认识到使用AI保卫美国的重要性”。Anthropic 的代表表示，该组织仍“准备继续谈判，并致力于为国防部和美国战士保持运营连续性”。