随着人们对人工智能生成的网络欺骗行为规模的担忧日益加剧，英国宣布计划与微软、学术界和技术专家合作，构建深度伪造检测系统。.
该倡议将深度伪造、人工智能、英国、微软和检测系统置于遏制有害内容的新一轮行动的核心位置，这些有害内容正变得越来越逼真，越来越难以发现。.
英国正严厉打击欺诈和未经同意的图像。
据政府称，该合作项目将开发一个深度伪造检测评估框架，该框架将创建一套共享标准，用于评估用于检测篡改的音频、视频和图像文件的电路检测设备。
除了为这类检测设备提供基准，以检验其在现实世界中的使用情况（欺诈和冒充）以及儿童性剥削的图像或视频。.
科技部长利兹·肯德尔警告说，这种风险并非仅仅存在于理论上。.
“犯罪分子正利用深度伪造技术欺骗公众，侵害妇女和女孩的权益，并降低我们所见所闻的可信度。这种情况将持续下去，直到我们采取措施保护公民和民主机构免受操纵。”
肯德尔
赝品所需的资金和技术比以往任何时候都更容易获得。
在英国，由于人工智能生成的虚假图像数量迅速增加，人们越来越关注未经同意制作私密图像的犯罪行为。.
根据政府数据，2025年制作的深度伪造图像数量达到800万张，而2023年仅为50万张。这表明人们制作这类图像的速度有多快。.
该框架的建立旨在使执法部门能够发现、预防和起诉此类犯罪，并为行业提供一套关于安全法规的明确期望。.
各国政府一直被敦促采取这一行动，微软也曾在2024年呼吁国会通过新的立法，打击人工智能生成的深度伪造技术。微软副董事长兼总裁布拉德·史密斯dent，立法者必须尽快应对深度伪造技术日益增长的威胁。
在他的博客文章强调了修改法律以应对深度伪造欺诈和防止其被滥用的重要性。史密斯认为，应该制定一项法规，用于起诉深度伪造诈骗和欺诈行为。
根据微软的报告，可以采取多种法律干预措施来防止深度伪造技术的滥用。其中一项建议是制定联邦层面的“深度伪造欺诈法”。
通过监管向平台施压
世界各地的监管机构都难以跟上人工智能技术的快速发展。.
在英国，负责监管通信的机构（“通信监管机构”）和负责监管隐私的机构（“隐私监管机构”）都已开始调查Grok 聊天机器人，原因是该聊天机器人未经儿童同意就制作了儿童的性化图像。
作为此次调查的一部分，这两个监管机构将共同努力，制定一个新的框架，以帮助执法和监管机构建立一致的标准，用于评估执法和监管机构使用的检测工具。.
肯德尔表示，这一新框架的目的是“促进人们恢复对网上所见所闻的信任”，并要求所有技术提供商承担起减轻人工智能技术加速使用可能造成的危害的责任。.
