- 伊斯兰国在其在线宣传中使用人工智能,包括虚假新闻主播和虚假视频。
- 人工智能使极端分子能够制作质量更高的视频来传播他们的议程。
- 由于人工智能面临的法律限制相对松散,政府越来越难以遏制激进组织利用这项技术。
面临重大军事挫折的伊斯兰国（IS）支持者正越来越多地利用人工智能（AI）生成复杂的在线宣传内容。 专家报告 IS 支持者利用该技术制作了复杂的宣传材料，例如用不同语言制作的 AI 新闻简报。
延伸阅读： 利用 AI 的机器人向社交媒体充斥虚假信息
一个典型的例子是伊斯兰国呼罗珊分支（ISKP），这是活跃在阿富汗和巴基斯坦的 IS 分支。在 5 月 17 日巴米扬省发生了一起造成四人死亡（包括三名西班牙游客）的 IS 宣称负责的袭击后，ISKP 发布了一段 AI 新闻主播的视频。该主播用普什图语讲话，外貌酷似当地人，并叙述了此次袭击事件，展示了该组织利用 AI 使内容更具可信度的做法。
IS 附属机构部署 AI 生成的新闻主播
另一段由 AI 制作的视频发布，视频中一位虚拟男主播声称 IS 对阿富汗坎大哈省的一起汽车炸弹袭击负责。网络安全专家 Roland Abi Najem 强调了这些由 AI 驱动的深伪视频的效率，并补充说 IS 多年来一直使用好莱坞级别的制作水准。
“现在 AI 拥有易于使用的工具来创建虚假内容，无论是文本、照片、音频还是视频，你只需要数据、算法和计算能力，因此任何人都可以在家里或车库里创建 AI 生成的内容。”
Roland Abi Najem
IS 利用 AI 进行宣传的目的正式始于 3 月 22 日莫斯科发生的一起可怕恐怖袭击事件几天后，该事件造成 145 人死亡。专家指出，IS 首次使用 AI 新闻主播报道了此次袭击，并且该组织转而通过 AI 传播假新闻。
通过 AI 内容扩大极端主义影响力
国际暴力极端主义研究中心的研究员 Mona Thakkar 表示，IS 支持者利用角色生成技术。
“这些努力获得了其他用户的积极回应，反映出通过未来的协作努力，许多支持者可以为 IS 制作更长时间、画质更好、创新技术更多的 AI 驱动的高质量复杂宣传视频。”
延伸阅读： 2024 选举中的假新闻与 AI 之战是什么？
Thakkar 还指出，在 Telegram 上推广 IS 的成员鼓励使用 AI 图像生成机器人，因为它们能为频道生成高质量图像，因为这些机器人有效且易于使用。这种做法表明，AI 作为增强极端主义有效性和凝聚力的工具的使用日益增加。
AI 赋能影响力行动和招募
尽管该组织在叙利亚和伊拉克失去了大量地盘，但它仍然利用 AI 传播仇恨信息并展示强大的假象。正如 Najem 所述，借助 AI，IS 可以创建深伪视频，影响特定的名人和网红，主要是年轻人，让他们加入该组织。
延伸阅读： AI 彻底改变反洗钱和反恐努力
全球极端主义与技术网络研究员 Daniel Siegel 解释说，AI 改变了极端组织在线影响力行动的性质。
“战略性地部署带有动画角色和网络名人的极端主义音频深伪 nasheeds（宗教歌曲），标志着极端分子在扩大内容影响力方面使用的战术发生了复杂演变。”
Siegel 还表示，其他恐怖组织如基地组织和哈马斯也转向 AI 为其追随者制作内容。虽然这些激进组织使用 AI 创建看起来专业、经过翻译且具有说服力的内容，但当局和科技巨头需要找到应对这些威胁的方法。
Cryptopolitan 报道由 Brenda Kanana
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Brenda Kanana
Brenda 拥有 4 年以上专注于加密货币、人工智能及新兴技术的经验。她曾就职于 Zycrypto、Blockchain Reporter 和 The Coin Republic，如今以 Cryptopolitan 为家。她在蒙巴萨技术大学获得的社会学学位使她能够始终把握读者的脉搏。
