最新新闻
为您推荐

进入世界首场AI战争:目标错误、虚假信息及问责缺口

作者Noor BazmiNoor Bazmi 3 分钟阅读
深入全球首场AI战争:针对错误、虚假信息及问责缺失
  • 美军仍在调查伊朗的学校轰炸事件,目前尚无人说明人工智能是否在将其选为目标的过程中发挥了作用。
  • 如今由大型语言模型驱动的Maven智能系统,帮助美军在24小时内打击了约1,000个目标。
  • 与此同时,AI生成的战争视频累计播放量达数亿次,而各大平台响应迟缓。

在美国和以色列对伊朗发动打击的第一天,伊朗南部小镇米纳布的一所学校被轰炸。超过175人死亡,包括学童。华盛顿和特拉维夫均未 表示 说明发生了什么。 没有人 承担责任。一个不断出现的问题是:AI系统 达到 是否击中了 错误的?

In the first 24 hours, US forces hit around 1,000 sites, about 42 per hour. A CSET report on the 18th Airborne Corps found that with Maven Smart System, 20 people could do what used to need a 2,000-person team at the Combined Air Operations Center in Iraq. By late 2024, the US had put a large language model, the same type of software behind consumer AI chatbots, inside Maven. This was among the first wars to use that technology in targeting.

美军表示仍在调查米纳布打击事件。它尚未说明AI系统在向该建筑发射导弹的过程中扮演了何种角色。

《纽约时报》早期报道该系统可能运行在旧数据上。外国记者Louisa Loveluck在X上写道,这次打击可能“基于十年前的情报”,并且任何免费在线查看近期卫星图像的人都会看到其中一个被标记为攻击的地点是“带有运动场的学校”。

计算机科学家Anh Totti Nguyen研究了AI视觉系统出错的原因。他的 论文《视觉语言模型是盲目的:未能将详细的视觉特征转化为文字》发现,当两个结构靠得很近,软件必须确定哪个是哪个时,这些系统往往会失败。

《纽约时报》的卫星图像显示,Shajarah Tayyebeh小学坐落在米纳布的一个伊斯兰革命卫队(IRGC)设施旁边,这正是Nguyen的研究标记出的确切设置。

目标

Emilia Probasco,前海军军官、安全与新兴技术中心高级研究员,在The Four Cast 播客中表示,责任在于下达命令的指挥官。这就是军事运作的方式。她说,黑箱问题,即无法看到AI系统如何得出答案,是“一个持续的研究领域,尚未解决”。

在战争爆发前,其技术位于Maven内部的Anthropic公司,陷入了与国防部的一合同争议,涉及两方面:AI是否足够可靠以做出生死攸关的决策,以及使用AI连接分散的数据点是否使其成为大规模监控工具。

Probasco表示这两个担忧都站得住脚,但指出“私营公司划定军事如何开展其行动界限的尴尬之处”。

Holland Michel表示对话不断偏向最坏的情况。一台挑选目标并开火且无人参与的机器。这种风险是真实存在的,他说,但这并非当前正在发生的情况。

“更艰难、更紧迫的工作,”他说,“是让AI系统更加透明,并确保依赖其输出的人类做出真正知情的决策,而不仅仅是顺从机器提出的任何建议。”

AI生成的战争内容也在扩散 周四 在线

BBC Verify追踪了关于冲突的AI制作视频和篡改的卫星图像,这些内容吸引了数亿次观看。

昆士兰科技大学的数字媒体研究员Timothy Graham表示:“规模确实令人震惊,这场战争使得现在无法忽视它。”他补充道,“过去需要专业视频制作才能完成的事情,现在只需几分钟即可用AI工具完成。创建令人信服的合成冲突视频障碍已 essentially崩溃。”

X表示将从其支付计划中剔除发布AI制作的战争 footage而未加标签的创作者。牛津互联网研究所研究伊朗的研究员Mahsa Alimardani称其为“一个值得注意的信号,表明他们已注意到这是一个大问题。”Meta和TikTok在被问及是否计划做同样的事情时,未回复。

如果您正在阅读这篇文章,说明您已经领先一步。请继续通过我们的通讯保持关注。

分享本文
Noor Bazmi

Noor Bazmi

Noor Bazmi 是 Cryptopolitan 新闻团队的成员,拥有媒体研究学位。她专注于报道区块链、加密货币、人工智能、大型科技公司、电动汽车市场、全球经济以及政府政策变化等新闻。她目前正在修读市场营销课程,以便更好地与全球受众建立联系。

更多新闻…