人工智能使死亡威胁变得非常逼真，澳大利亚激进人士揭露

澳大利亚激进人士 Caitlin Roper 透露，人工智能现在正被用于制造非常逼真的威胁和在线暴力虐待。据 Roper 称，尽管多年来一直在互联网上从事激进活动，但她发现自己因最近收到的一系列由人工智能驱动的威胁而受到创伤。

数字生成的威胁在过去几年中已成为可能，直到最近，人工智能 models 除非一个人在网上拥有巨大的存在感，否则无法复制真人。据专家称，现在模型只需要一张个人资料照片就能创建用户想要的任何东西。

2023 年，佛罗里达州的一名法官收到了一段视频，该视频是使用《侠盗猎车手》（Grand Theft Auto）视频游戏中的定制工具制作的。视频中，一个看起来和走路都像法官的化身被黑客攻击致死。

澳大利亚激进人士呼吁对人工智能的使用保持谨慎

据 Roper 称，她收到的一些帖子是针对她和 Collective Shout（一个在 X 和其他社交媒体平台上的澳大利亚激进组织）同事的恶意活动的一部分。她 noted 在她收到的一张照片中，有一张她被吊在绞刑架上的照片，而另一段视频显示她浑身着火并尖叫。其他视频更加血腥，用户不惜一切代价传达他们的信息。

Roper 声称，在大多数由人工智能 concocted 的照片和视频中的，她都穿着她确实拥有的蓝色花卉连衣裙。“正是这些奇怪的小细节让它感觉更真实，并以某种方式成为一种不同类型的侵犯，”她说。“这些事情可以从幻想变成比幻想更真实的东西。”她指出，在线虐待的洪流始于今年夏天，当时她开展了一项关闭美化成人场景和虐待的暴力电子游戏的运动。

她提到，一些针对她的账户和图像已被删除。Roper 还提到，该公司声称其他描绘她暴力死亡的视频并未违反平台的服务条款。事实上，她声称 X 曾在某个时候将其中一个骚扰她的账户列入推荐关注名单。Roper 提到，她的一些骚扰者还声称使用 Grok 来研究如何在家和咖啡馆找到女性。

Roper 希望平台解决这一威胁

Roper 声称，在她受够了之后，她决定发布一些例子。在她这样做之后，X 告诉她她的账户违反了针对 gratuitous gore 的安全政策，并暂时锁定了她的账户。

与此同时，全球范围内针对人工智能的抗议活动正在展开，因为其被用于实施诈骗。犯罪分子现在利用该技术模仿真人的声音，并将其用于其 numerous illicit activities。其他活动包括未经主体明确许可创建人工智能成人内容。

除了这类内容外，报告声称人工智能也使其他威胁更具说服力。例如，swatting 是指拨打虚假紧急电话，旨在引发警察和急救人员的重大响应。在夏季，国家检察官协会提到，该技术“显著加剧了此类攻击的规模、精确性和匿名性”。

在较小规模上，由人工智能制作的所谓入室抢劫视频的增加导致目标居民拨打全国各地的警察局电话。报告声称，swatting 的肇事者可以通过克隆声音和操纵图像来说服执法部门相信虚假报告。一名连环罪犯使用模拟枪声暗示一名枪手在华盛顿州一所高中的停车场。在警察和联邦特工出现后，校园封锁了 20 分钟。