英国选举监督机构警告称，面对人工智能生成的深度伪造视频，他们无能为力。

英国选举监督机构发出警告，表示无力打击“深度伪造”内容，这使得英国在即将到来的选举中容易受到人工智能生成的政治人物虚假视频的破坏性影响。.

英国选举监督机构发出严厉警告，暴露出其在应对日益猖獗的“深度伪造”内容方面缺乏权威。这一令人不安的披露表明，英国的选举进程极易受到人工智能生成的虚假视频操纵。.

人工智能专家警告称，英国下届大选可能会受到人工智能生成的逼真“深度伪造”音频和视频的影响，这些视频中的政治人物形象栩栩如生。这项技术对民主进程的公正性构成重大威胁。.

近期深度dent事件

近几个月来，针对政治人物，尤其是工党内部人士，出现了多起令人瞩目的AI生成的深度伪造内容。10月初，一个Twitter/X账号发布了一段疑似工党领袖基尔·斯塔默爵士对其党内工作人员发表贬损言论的音频。随后，又出现了一段伦敦工党市长萨迪克·汗的深度伪造音频，音频内容似乎对阵亡将士纪念活动表示不敬。.

涉及政治人物的深度伪造视频和音频的法律地位仍不明朗。虽然此类内容可能属于《网络安全法》中新增的恶意通信措施的管辖范围，但当局在处理此类内容方面仍面临挑战。值得注意的是，伦敦警察厅已撤销对萨迪克·汗深度伪造视频的调查，理由是该视频不构成刑事犯罪。

对人工智能生成的病毒式虚假信息的担忧

专家担忧，人工智能生成的政治人物虚假视频可能会在下次选举前夕迅速传播。制作逼真的公众人物发表或做出丑闻行为的虚假视频变得轻而易举且成本低廉，使得此类干预变得越来越容易。该领域的许多专家预测，敌对国家行为体可能会利用新兴技术来影响英国选举并破坏民主进程。.

自2023年11月起，竞选材料必须包含“版权声明”，标明某些政治内容的发布者。然而，目前尚无义务披露内容是否由人工智能生成，选举委员会也无权制裁或删除虚假信息。尽管英国通信管理局（Ofcom）在该领域拥有更大的监管权力，但关于人工智能生成的政治虚假信息和深度伪造技术的法律框架仍然模糊不清。.

选举委员会的权限有限

选举委员会澄清了其在应对深度伪造和竞选材料内容方面的角色，指出其主要职责是监管政党和竞选人员的资金，并确保遵守数字印记要求。委员会承认人工智能生成内容带来的挑战，但并不拥有直接打击深度伪造相关问题的管辖权。.

委员会正积极与合作伙伴及其他监管机构协作，以更好地了解人工智能技术在选举中带来的机遇和挑战。委员会还鼓励选民批判性地评估网络信息，并提供dent虚假新闻的指导，同时引导选民向相关监管机构反映问题。.

呼吁加强监管权力

鉴于现行法规的局限性，选举委员会正积极倡导英国政府提升包括委员会自身在内的英国监管机构的权力。具体而言，委员会寻求更大的权力，以便从社交媒体平台、科技公司和在线支付服务提供商处获取信息。此举旨在dent政治虚假信息宣传活动的资金来源，从而解决该问题的一个关键方面。.

科技巨头的回应

《Byline Times》联系了多家科技巨头，询问他们打击有害政治深度伪造内容的政策和措施。例如，TikTok表示，它禁止所有政治广告，并要求明确披露任何呈现逼真场景的合成媒体或篡改内容。TikTok还制定了严格的反虚假信息政策。.

谷歌/Alphabet强调了其打击虚假信息的持续努力，以及其在水印技术方面的试验，该技术旨在识别人工智能生成的内容。谷歌发布了SynthID，这是一款可以将不易察觉的数字水印嵌入人工智能生成图像的工具，用于验证图像的真实性。.

谷歌还重点介绍了其在检测合成语音方面取得的进展，准确率接近99%，并透露了更新其政治内容政策的计划。此次更新将要求经过认证的选举广告商在其广告中显著披露合成内容，包括图片、视频和音频。.

YouTube隶属于谷歌，对“技术性篡改内容”有着​​严格的政策，这类内容会误导观众并可能造成严重伤害。YouTube还将要求创作者在制作看似逼真的修改或合成内容时进行披露。.

人工智能生成虚假信息的挑战和风险

人工智能生成的深度伪造内容的主要风险在于，它可以制作出逼真的视频，描绘从未发生过的事件，或让人物说出或做出从未做过的事情。在选举活动中，这种风险尤为敏感，因为此类误导性内容很容易左右公众舆论。.

Meta/Facebook 和 Twitter 的回应

Meta/Facebook 没有回应关于其应对政治深度伪造技术的政策和措施的问询。Twitter/X 则以自动回复的形式回应，并未提供关于其立场或行动的更多细节。.

随着人工智能生成的深度伪造视频对英国民主进程的威胁日益加剧，英国在有效监管和打击此类欺骗性内容的传播方面面临着严峻挑战。科技巨头参与实施打击深度伪造视频的措施，凸显了解决这一问题的紧迫性，以维护选举的公正性和民主对话的公平性。.