美国五角大楼加强与顶级人工智能公司的谈判，推动工具部署于涉密系统

五角大楼正对主要人工智能公司施加切实压力，要求其在机密系统内为美军提供对其工具的访问权限。

官员们不仅仅是在寻求基本访问权限。他们希望这些人工智能模型能够运行，不受各公司为普通用户设置的常规限制。

在周二白宫举行的一次会议上，五角大楼首席技术官埃米尔·迈克尔（Emil Michael）向科技界领袖表示，军方希望这些人工智能模型能够在机密和非机密网络中同时运行。

一位接近谈判的人士透露，政府现已决心将所谓的“前沿人工智能能力”部署到军事应用的各个层级。

五角大楼要求在安全网络范围内无限制地获取访问权限

这一举措是有关人工智能在未来作战中如何应用的更广泛讨论的一部分。战争已因无人机群、机器人和持续不断的网络攻击而重塑形态。五角大楼不愿在科技界划定使用边界时被动追赶。

目前，大多数与军方合作的公司都在提供其模型的简化版本。这些模型仅运行于用于行政工作的开放、非密系统上。Anthropic是唯一的例外。

其聊天机器人Claude可在部分机密环境中使用，但必须通过第三方平台进行。即便如此，政府用户仍需遵守Anthropic的规定。

五角大楼所寻求的是直接访问高度机密的敏感网络。这些系统用于诸如规划任务或锁定目标等事务。目前尚不清楚像Claude或ChatGPT这样的聊天机器人何时或以何种方式被部署到这些网络中，但这正是其目标所在。

官员们认为，人工智能有助于处理海量数据并快速将其提供给决策者。但如果这些工具生成虚假信息（而它们确实会），可能会导致人员伤亡。研究人员早已对此发出警告。

OpenAI本周与五角大楼达成协议。ChatGPT 将部署在名为 genai.mil 的非密网络上。该网络目前已覆盖国防部超过 300 万名员工。

作为协议的一部分，OpenAI移除了大量其常规使用限制。尽管仍保留了一些安全护栏，但五角大楼已获得了其大部分诉求。

一位公司发言人 表示，任何向涉密用途的扩展都需要新的协议。Google 和 Elon Musk 旗下的 xAI 过去也曾达成过类似协议。

人工智能研究人员纷纷离职并指出相关风险

与Anthropic的谈判则没那么顺利。该公司领导层向五角大楼表示，他们不希望其技术被用于自动瞄准或对美国境内人员进行监视。

尽管Claude已被用于某些国家安全任务，但公司高管仍在抵制。在一份声明中，一位发言人表示：-

“Anthropic致力于保护美国在人工智能领域的领先地位，并通过为作战人员提供最先进的AI能力，协助美国政府应对来自海外的威胁。”

他们表示Claude已被投入使用，该公司仍与现称“战争部”的机构保持密切合作。唐纳德·特朗普总统近日下令将国防部更名为该名称，但国会仍需批准这一更名。

与此同时，这些公司的一批研究人员正在陆续离职。Anthropic的一位顶级安全研究人员在辞职时表示：“世界正处于危险之中。”OpenAI的一名研究人员也选择离开，称该技术“具有操纵用户的潜在风险，而我们既缺乏理解这种风险的工具备，更遑论加以防范”。

部分离职者并非默默离去。他们发出警告，指出发展速度过快，相关风险正被忽视。曾在OpenAI工作两年的Zoë Hitzig本周宣布辞职。

在一篇文章中，她表示对该公司计划引入广告的方式“深感担忧”。她还指出，ChatGPT 会存储用户的私人数据，例如“医疗方面的恐惧、人际关系问题、对上帝的信仰以及对来世的看法”等。

她认为这是一个严重的问题，因为人们信任该聊天机器人，却并未意识到它可能隐藏着其他动机。

与此同时，科技网站 Platformer 报道称，OpenAI 已解散其使命对齐团队。该团队成立于 2024 年，旨在确保公司建设“造福全人类的人工智能”这一目标真正落到实处。