揭秘全球首场人工智能战争：目标选择错误、虚假信息和问责机制漏洞

在美国和以色列对伊朗发动空袭的第一天，伊朗南部城镇米纳布的一所学校遭到炸弹袭击，造成包括学生在内的175多人死亡。华盛顿和特拉维夫方面均未就 作出解释 此事 也无人 认领责任。一个问题不断涌现：是人工智能系统 击了 误 目标吗？

在最初的24小时内，美军打击了约1000个目标， 约 平均每小时借助Maven智能系统，20人就能 完成 过去 需要 2000人团队才能完成的工作。到2024年底，美国已将 集成 大型语言模型（与消费级人工智能聊天机器人背后的软件类型相同） 到Maven系统中。这是最早 应用于 将该技术

美国军方 表示 仍在 调查 米纳布袭击事件。但尚未 说明 ，以及参与程度如何 是否参与 发射导弹 向该 建筑物

《纽约时报》早前报道称，该系统可能使用的 是 旧 数据 。驻外记者dent ·洛夫拉克在X网站上撰文指出，此次袭击可能“基于 情报 十年前的免费都会在其中一个被标记为袭击目标的地点看到“一所带运动场的学校”。

计算机科学家 Anh Totti Nguyen 研究了人工智能视觉系统出错的原因。他的 论文 《视觉语言模型是盲目的：无法将详细的视觉特征转化为词语》指出，当两个结构彼此靠近时，这些系统常常会出错，因为软件需要判断哪个是哪个。

《纽约时报》的卫星图像显示，沙贾拉·塔耶贝小学 紧邻 米纳布的一个伊朗伊斯兰革命卫队大院，这与阮的研究 指出。

前海军军官、安全与新兴技术中心高级研究员埃米莉亚·普罗巴斯科在“四重奏” 播客节目 ，责任在于下达命令的指挥官。 这 就是军队的 运作。她指出，所谓“黑箱问题”，即无法了解人工智能系统如何得出答案，是“一个仍在研究​​的领域，而非已经解决的问题”。

战前， 提供 Maven 发生了 合同 工具trac与国防部 就两 ： 人工智能是否足够可靠，可以用于生死攸关的 决策， 以及使用人工智能连接分散的数据点是否会使其成为大规模监控

普罗巴斯科 表示， 这两个担忧 都成立， 但 他指出 “一家私营公司对军队如何开展 行动”。

霍兰德 ·米歇尔 说， 讨论总是 朝着 最糟糕的情况 发展：一台 机器 自动选择 目标并开火的 无需 人为 干预。 这种 风险确实存在， 他表示， 但这并非 目前正在发生的。

“ 更难、更紧迫的 工作 他说： 是 让人工智能系统更加透明，并确保依赖其输出结果的人类能够做出真正知情的决定，而不是简单地听从机器的任何建议。”

人工智能生成的战争内容也在 迅速 网络上

BBC Verify trac到 人工智能制作的 关于这场冲突的视频和篡改过的卫星图像，这些视频和图像 吸引了 数亿次的观看量。

昆士兰科技大学数字媒体研究员蒂莫西·格雷厄姆表示： “ 规模之大令人 震惊 ，这场战争让我们再也无法忽视 。” 他补充道： “ 过去需要专业视频制作才能完成的工作，现在只需几分钟就能借助人工智能工具完成。制作逼真的合成冲突画面的门槛已经基本 消除。”

X公司 表示， 将会 取消 如果创作者发布 AI生成的战争视频， 未经标注的 “是一个 重要的信号，表明他们已经意识到这是一个严重的 问题”。，Meta和TikTok均未作出 回应 当被问及是否计划 采取类似措施。