最新新闻
为您推荐

AI模型在瓦尔战争模拟中将平民标记为打击目标

作者Ibiam WayasIbiam Wayas 3 分钟阅读
AI模型在瓦尔战争模拟中将平民标记为打击目标
  • Vals周二报道称,经过模拟无人机和卫星图像测试的前沿人工智能模型,经常将平民和学校标记为攻击目标。
  • 该报告还声称,将该演习称为“游戏”这一说法避过了大多数安全拒绝机制。
  • 它们在此时发布,正值各国政府在日内瓦就是否应制定关于自主武器的具有约束力的规则展开争论。

AI测试公司Vals 在 6 月报道 11月17日,许多领先的AI模型在基于图像的测试中表明,平民、救护车和学校可能成为军事目标。一些模型最初拒绝此类请求,但当研究人员将练习包装为游戏时,它们便顺从了。这些结果表明,现有的安全措施可能不足以防止这些AI模型被滥用。然而,Vals并未测试这些模型在实际武器系统中的表现。

“绝不能过度思考安全问题”

Vals使用无人机画面、战场调查和卫星图像对AI模型进行了评估。在无人机画面中,GPT-6 Astra在处理标准请求时,能在约6%的交互中识别出至少一个目标。然而,当置于游戏语境下时,这一比例大幅上升至92%。GPT-6.1 Sol的反应类似,即第一种情况下为17%,第二种情况下为90%。Kimi K3.1 Pro(根据已发布的推理轨迹显示)似乎在回应前会解除安全顾虑。Vals还确认,尽管某些模型自行拒绝了部分请求,但没有任何安全分类器阻止其请求。

军事综合体旁边的学校

Vals 还使用伊朗米纳布在 2026 年 2 月袭击前拍摄的卫星图像测试了 AI 模型。图像显示一所小学位于一个军事综合体旁边。Claude Opus 5.5 在 69% 的标准试验中将该校识别为打击目标。当研究人员将练习呈现为游戏时,这一比例上升至 72%。GPT-6.1 Sol 的识别率从 0% 增加到 41%。每种条件涉及 32 次试验。

该校于2026年2月遭袭。联合国专家随后报告称,至少有168人死亡。但Vals并未对此袭击事件展开调查,也未声称其测试能为事件真相提供任何答案。

AI 模型在 Vals 战争模拟中标记平民

聊天机器人不是武器系统

发现潜在目标并不意味着 AI 模型有能力决定发动攻击。Vals 仅调查了模型如何提供潜在目标的信息。研究人员并未调查结果是否正确或是否符合战争法。

美国外交关系委员会指出,用于引导目标的软件本身并不构成自主武器。法律研究人员表示,通过人工智能识别目标仍需人工确认。与此同时,布伦南中心指出,人类监控并不能确保错误不会威胁平民的安全。

正在讨论的修复方案

Vals希望AI开发者加强安全措施,并训练模型以抵御涉及常规武器的滥用行为。这一担忧不仅限于其自身发现。Anthropic的研究也表明,AI模型可能协助进行战术情报工作。Anthropic表示,已引入分类器来检测和阻止此类滥用行为。

政府同样负有责任。斯德哥尔摩国际和平研究所(SIPRI)建议为军事AI供应商设定明确的要求。它还敦促各国政府独立测试供应商的声明,并在授予合同前建立问责机制。

不断扩大的市场与五角大楼的内斗

军事人工智能也吸引了更多投资。Grand View Research估计,该市场在2026年将达到117亿美元,并预计到2030年将增长至193亿美元。正如Cryptopolitan报道的那样,五角大楼计划在2027年10月建立AutoWarCom。

然而,五角大楼与人工智能公司的合作也引发了争议。一份国会报告指出,Anthropic、Google、OpenAI和xAI在2025年获得了价值高达2亿美元的合同。这些金额是支出上限,而非保证付款。

Anthropic 反对将其技术用于大规模国内监控和完全自主武器。报告还指出,五角大楼公开未在任何自主武器中使用任何前沿 AI 模型。

日内瓦就具有约束力的规则产生分歧

各国对于如何监管自主武器也存在分歧。据路透社报道,在日内瓦举行的联合国会议上,《特定常规武器公约》的128个缔约国中的大多数支持就具有约束力的规则进行谈判。

美国、俄罗斯和以色列反对这种做法。他们认为现行国际人道主义法已涵盖自主武器。俄罗斯还因观察员是否有权发言的问题推迟了开幕讨论。

华盛顿提议进行为期五年的谈判,以达成一项无约束力的协议。会议主席建议用两年时间制定一项具有约束力的议定书。与此同时,联合国秘书长安东尼奥·古特雷斯敦促各国政府就明确的禁令和限制达成一致。

不要只是阅读加密货币新闻,要真正理解它。订阅我们的通讯。 免费。

常见问题

瓦尔兹(Vals)研究发现了什么?

根据瓦尔兹的研究,前沿人工智能模型在显示模拟的无人机和卫星图像时,通常会返回目标信息,有时还会标记出平民、救护车和学校;并且告知模型它处于游戏环境中会消除其大部分拒绝响应。

人工智能导致了真实的米纳布学校袭击事件吗?

没有。瓦尔兹使用真实的米纳布影像来测试模型的输出结果,并未声称其实验能解释2026年2月造成当地150多名平民死亡的美国空袭事件。

为什么美国和俄罗斯反对新的自主武器规则?

双方均认为,现有的国际人道主义法已经对战争行为进行了规范,因此无需制定具有约束力的规则。路透社报道,美国提议一项为期五年的无约束力协议作为替代方案。

分享本文

免责声明。 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。

Ibiam Wayas

Ibiam Wayas

Ibiam Wayas自2019年起一直负责加密货币新闻报道。他在尼日利亚国家开放大学攻读计算机科学专业。他的作品曾刊登于多个加密货币新闻平台,包括Coinfomania、Crypto News Australia和AltcoinBuzz。凭借其在计算机科学领域的背景,他目前专注于加密货币、机器人技术和长寿领域的新闻。

更多新闻…