澳大利亚活动人士透露，人工智能正使死亡威胁变得非常逼真。

澳大利亚活动家凯特琳·罗珀透露，人工智能正被用于制造极其逼真的网络威胁和暴力辱骂。罗珀表示，尽管她多年来一直从事网络活动，但最近收到的一系列人工智能驱动的威胁仍然让她感到精神创伤。.

过去几年，数字化威胁一直存在，而且直到最近，人工智能 模型 还无法复制真人，除非他们在网络上拥有庞大的用户群体。一位专家表示，现在模型只需要一张头像就能创建用户想要的任何东西。

2023年，佛罗里达州的一名法官收到了一段视频，该视频是用《侠盗猎车手》游戏中的角色自定义工具制作的。视频中，一个外形和动作都与法官本人极其相似的虚拟角色被残忍地杀害。.

澳大利亚活动人士呼吁谨慎使用人工智能

罗珀表示，她收到的一些帖子是针对她和她所在的澳大利亚维权组织“集体呐喊”（Collective Shout）同事的恶意攻击活动的一部分，该组织活跃于X和其他社交媒体平台。她 指出 ，在她收到的一张照片中，有一张是她被吊在绳索上的照片，另一段视频则显示她浑身着火，发出凄厉的尖叫。其他一些帖子则更加血腥暴力，发帖者不遗余力地想要传达他们的信息。

罗珀声称，在大多数由人工智能合成的照片和视频中，她都穿着一件她确实拥有的蓝色碎花连衣裙。“正是这些奇怪的小细节让一切感觉更加真实，某种程度上，也让这种侵犯显得更加不同，”她说。“这些事情可以从幻想变成超越幻想的东西。”她指出，今年夏天，在她发起了一场旨在取缔美化成人场景和虐待的暴力电子游戏的运动之后，网络上的暴力攻击就开始了。.

她提到，一些针对她的账号和图片已被删除。罗珀还提到，该公司声称其他描绘她暴力死亡的帖子并未违反平台的服务条款。事实上，她声称X公司一度将一个骚扰她的账号列入了推荐关注名单。罗珀提到，一些骚扰者还声称他们使用Grok平台搜索如何在家或咖啡馆找到女性。.

罗珀希望建立平台来应对这一威胁。

罗珀声称，在她忍无可忍之后，她决定发布一些例子。之后，X告诉她，她的 账号 违反了禁止发布无端血腥暴力内容的安全政策，并暂时锁定了她的账号。

与此同时，由于人工智能被用于实施诈骗，全球范围内爆发了一场反对人工智能的运动。犯罪分子现在利用这项技术模仿真人的声音，并将其用于各种非法活动。其他活动还包括未经当事人明确许可，利用人工智能制作成人内容。.

除了这类内容之外，报道还称人工智能也在使其他威胁更具迷惑性。例如，“钓鱼执法”（Swatting）是指拨打虚假紧急电话，旨在引发警方和紧急救援人员的大规模出动。今年夏天，美国总检察长协会指出，这项技术“显著提高了此类攻击的规模、精准度和匿名性”。.

规模较小的类似事件中，利用人工智能制作的所谓入室抢劫视频数量激增，导致全国各地的居民dent报警。报告称，虚假报警者可以通过克隆声音和篡改图像来欺骗执法部门。一名惯犯曾使用模拟枪声，谎称华盛顿州一所高中的停车场内有枪手。警方和联邦特工赶到现场后，校园被封锁了20分钟。.