揭秘全球首场人工智能战争：目标选择错误、虚假信息和问责机制漏洞

在美国和以色列对伊朗发动空袭的第一天，伊朗南部城镇米纳布的一所学校遭到炸弹袭击，造成包括学生在内的175多人死亡。华盛顿和特拉维夫方面均未就此事 作出解释，也无人认领责任。一个问题不断涌现：是人工智能系统误 击了 目标吗？

在最初的24小时内，美军打击了约1000个目标，平均每小时 约42个。CSET关于第18空降军的一份报告指出，借助Maven智能系统，20人就能 完成过去在伊拉克联合空中作战中心 需要2000人团队才能完成的工作。到2024年底，美国已将大型语言模型（与消费级人工智能聊天机器人背后的软件类型相同） 集成 到Maven系统中。这是最早将该技术 应用于目标定位的战争之一。

美国军方 表示仍在 调查米纳布袭击事件。但尚未 说明人工智能系统 是否参与了 向该建筑物发射导弹，以及参与程度如何。

《纽约时报》早前报道称，该系统可能使用的 是旧 数据。驻外记者dent ·洛夫拉克在X网站上撰文指出，此次袭击可能“基于十年前的 情报”，任何在线免费查看近期卫星图像的人都会在其中一个被标记为袭击目标的地点看到“一所带运动场的学校”。

计算机科学家 Anh Totti Nguyen 研究了人工智能视觉系统出错的原因。他的 论文 《视觉语言模型是盲目的：无法将详细的视觉特征转化为词语》指出，当两个结构彼此靠近时，这些系统常常会出错，因为软件需要判断哪个是哪个。

《纽约时报》的卫星图像显示，沙贾拉·塔耶贝小学 紧邻 米纳布的一个伊朗伊斯兰革命卫队大院，这与阮的研究 指出。

前海军军官、安全与新兴技术中心高级研究员埃米莉亚·普罗巴斯科在“四重奏” 播客节目 ，责任在于下达命令的指挥官。 这 就是军队的 运作。她指出，所谓“黑箱问题”，即无法了解人工智能系统如何得出答案，是“一个仍在研究​​的领域，而非已经解决的问题”。

战前，为Maven 提供技术支持的 Anthropic 公司工具trac与国防部就两件事发生了合同纠纷 ：人工智能是否足够可靠，可以用于生死攸关的 决策，以及使用人工智能连接分散的数据点是否会使其成为大规模监控

普罗巴斯科 表示， 这两个担忧 都成立， 但 他指出 “一家私营公司对军队如何开展 行动”。

霍兰德·米歇尔 说，讨论总是 朝着最糟糕的情况 发展：一台 无需人为 干预就能 自动选择目标并开火的机器。 他表示，这种风险确实存在，但这并非 目前正在发生的事情。

他说： “更难、更紧迫的 工作 是让人工智能系统更加透明，并确保依赖其输出结果的人类能够做出真正知情的决定，而不是简单地听从机器的任何建议。”

人工智能生成的战争内容也在网络上 迅速传播。

BBC Verify trac到 人工智能制作的 关于这场冲突的视频和篡改过的卫星图像，这些视频和图像 吸引了 数亿次的观看量。

昆士兰科技大学数字媒体研究员蒂莫西·格雷厄姆表示： “ 规模之大令人 震惊 ，这场战争让我们再也无法忽视 。” 他补充道： “ 过去需要专业视频制作才能完成的工作，现在只需几分钟就能借助人工智能工具完成。制作逼真的合成冲突画面的门槛已经基本 消除。”

X公司 表示，如果创作者发布未经标注的AI生成的战争视频，将会 取消他们的付费资格。牛津互联网研究所负责伊朗问题的研究员玛莎·阿里马尔达尼称此举 “是一个重要的信号，表明他们已经意识到这是一个严重的 问题”。当被问及是否计划 采取类似措施时，Meta和TikTok均未作出 回应。