亚利桑那州法院驳回AI受害者视频，加剧对深度伪造检测的需求

亚利桑那州上诉法院撤销了对加布里埃尔·霍卡西塔斯判处10.5年监禁的判决。霍卡西塔斯因2021年一起路怒枪击事件被判定犯有过失杀人罪，法院裁定量刑法官不应考虑一份由人工智能生成的受害者克里斯托弗·佩尔基的视频。

判决仍然有效，但案件将发回重审量刑，据 路透社和 案情摘要报道。

合议庭认为，一段宽恕信息污染了量刑过程。

三名法官组成的合议庭表示，该人工智能生成的视频不当影响了量刑决定。

虽然记录并未确切反映该人工智能视频在量刑考量中具体如何发挥作用，但毫无疑问它确实起到了作用。

——亚利桑那州上诉法院法官 D. Steven Williams，据 路透社报道

法院认定该视频对Horcasitas造成了足够的不利影响，使量刑程序在根本上不公平。路透社报道称，亚利桑那州总检察长和Horcasitas的公设辩护人拒绝发表评论。

佩尔基家属如何构建虚拟形象

剧本由Pelkey的妹妹Stacey Wales撰写，她发现难以用文字表达她认为哥哥在那种情况下会说的话。据 美国国家公共电台报道，家人通过一段短视频、一张葬礼照片以及多种AI工具创建了该虚拟形象。

该虚拟形象首先表明自己是人工智能的产物，随后对霍卡西塔斯说道：

在另一个人生里，我们或许本可以成为朋友。

随后，审判法官对家属制作该视频表示感谢。

法院尚无关于合成视频的通用规则

这一决定出台之际，法院正面临人工合成证据带来的挑战。科罗拉多大学博尔德分校发布的一份报告显示，美国超过80%的法庭案件部分基于视频证据，但法院尚未制定统一的规则来处理由人工智能生成或增强的影像内容。

研究人员还关注所谓的“深度伪造防御”机制，即真实视频因AI生成的说法显得合理而被判定为虚假。

这种担忧是创建 CIFAR 合成证据语料库的原因之一，该计划于2026年6月启动，因为研究人员意识到之前的数据集不适合用于教导技术检测证据材料中可能出现的细微操纵。

溯源、水印与争分夺秒的检测市场

NIST将溯源追踪、水印和合成内容检测确定为管理AI生成媒体的关键方式。欧洲走得更远：欧盟《人工智能法案》第50条要求某些合成内容必须机器可读，并需披露深度伪造为人工生成或经过篡改。

商业联系正变得越来越清晰。SNS Insider评估深度伪造检测市场在2026年价值为 11.9亿美元，并预测到2035年将增长至 121.4亿美元，年复合增长率（CAGR）为 29.5%。

亚利桑那州的一项裁决本身不足以催生该市场。然而，当超过五分之四的案件依赖视频证据时，任何关于证据真实性的争议都会加剧对验证工具的迫切需求。

这使得法庭上的深度伪造从法律难题转变为向销售法医验证的公司出售的真实商业机会。中国也在朝同一方向迈进，Cryptopolitan报道称，9月出台了针对AI深度伪造和语音克隆的新责任规则。