英国招募微软进行深度伪造检测，以应对AI浪潮

随着人们对网上AI生成欺骗规模的关注日益增加，英国宣布计划与微软、学者和技术专家合作，建立深度伪造检测系统。

该倡议将深度伪造、人工智能、英国、微软和检测系统置于遏制日益逼真且难以发现的有害内容的新举措的核心。

英国针对欺诈和非自愿图像

根据政府说法，该合作将开发一个深度伪造检测评估框架，该框架将为评估篡改音频、视频和图像文件的电路检测设备创建一套共享标准。

除了为这些类型的检测设备提供针对实际使用案例（欺诈和冒充）以及儿童性剥削图像或视频的基准外。

技术部长Liz Kendall警告说，这种风险并非仅存在于理论中。

“犯罪分子正在利用深度伪造欺骗公众，利用妇女和女孩，并削弱我们所见所闻的可信度。在我们采取措施保护公民和民主机构免受操纵之前，这种情况将持续下去。”

Kendall

媒体篡改已存在数十年。然而，专家表示，随着人工智能的发展，制作高质量伪造品所需的资金和技能门槛比以往任何时候都更低。

在英国，由于AI生成的虚假图像数量迅速增加，对未经同意制作亲密图像这一刑事行为的关注日益增加。

根据政府数据，2025年产生了800万张深度伪造虚假图像，而2023年仅为50万张。这表明人们创建此类图像的速度之快。

该框架的创建旨在使执法部门能够检测、预防和起诉此类犯罪，并为行业提供关于安全法规的清晰期望。

这是政府被敦促采取的行动，微软在2024年呼吁国会通过针对AI生成深度伪造的新立法。微软副董事长兼总裁Brad Smith强调，立法者必须解决深度伪造技术日益增长的威胁。

在他的博客文章中，Smith强调了适应法律以解决深度伪造欺诈和防止滥用的重要性。根据Smith的说法，应该有一项法律条款可用于起诉深度伪造的诈骗和欺诈行为。

根据微软的报告，可以采取几种法律干预措施来防止深度伪造技术的滥用。建议之一是创建联邦“深度伪造欺诈法”。

通过监管向平台施压

全球监管机构难以跟上人工智能技术的快速发展。

在英国，负责监管通信的机构（“通信监管机构”）和负责监管隐私的机构（“隐私监管机构”）已开始调查由Elon Musk运营的Grok聊天机器人，原因是该聊天机器人生成了未经同意制作的儿童性化图像。

作为此次调查的一部分，这两个监管机构将共同努力，制定一个新框架，协助执法机构和监管机构建立一致的标准，以评估执法机构和监管机构所使用的检测工具。

肯德尔表示，这一新框架的目的是“促进恢复人们对在线所见所闻的信任”，并要求所有技术提供商承担减轻与人工智能技术加速使用相关的潜在危害的责任。