- Meta 监督委员会命令该公司删除一段由人工智能生成的视频，该视频错误地显示一名苏格兰工党议员支持难民实施性暴力。
- 该委员会认为 Meta 的深度伪造政策从根本上存在不足。
- Meta 收到了来自该委员会的九项建议，并需在 60 天内作出回应。
Meta的监管委员会裁定，该公司必须下架一段由AI生成的苏格兰工党议员视频，该视频错误地显示她支持难民实施的性暴力。
该公司最初决定保留该视频，监管委员会在推翻这一决定的同时，还警告称Meta处理深度伪造的方式使用户面临被欺骗的风险。
Meta必须下架什么伪造视频？
2025年11月，一段使用苏格兰当地工党政治家肖像的视频在Facebook上出现。视频中的肖像说道：“难民在这里受欢迎，即使他们强奸我们的女性，因为白人也会这样做。”
Meta的监管委员会 将这种描绘描述为逼真但合成的，指出音频与她的面部动作不一致。该视频在一个相册中被发现，该相册还包含几张指定女性的照片，包括该议员，她们参加了反极右翼抗议活动。
两人（其中一人是该议员本人）根据Meta的欺凌和骚扰规则标记了该视频，但Meta的系统从未将其路由给人工审核员，它在两次上诉后仍然保留。
随后第三名用户将案件提交给委员会，即使在他们标记之后，Meta仍坚持认为该视频没有违反任何规则，也不需要AI标签。该议员告诉委员会，这段视频“相当令人创伤”。
委员会多数成员认为该片段违反了Meta的仇恨行为政策，因为它将整个难民群体指控犯有严重犯罪和掠夺性性行为，驳回了Meta声称其仅针对部分难民的说法。委员会未将其视为可移除的错误信息，但表示应带有“高风险AI”标签。
委员会在Meta有利的一点上达成一致，即欺凌和骚扰规则不要求删除，因为民选官员是公众人物，享有的保护少于私人人士。
监管委员会对Meta有哪些建议？
委员会还就第二起案件介入，该案涉及一段AI操纵的采访视频，一名女性在其中推广月经健康教育。在委员会干预后，Meta以欺凌为由撤下了该视频。
这两项裁决促使委员会称Meta的安全措施“一贯且根本不足”。
委员会 推荐 建议Meta降低“高风险”标签的门槛，使其不仅限于选举或危机，并用点击式中间页替换某些标签。它还建议对高风险AI内容进行去货币化、降级或从推荐中移除，并对重复分享者实施升级处罚。
它还希望Meta优先对报告的可疑AI内容进行人工审核，发布每年应用AI标签频率的数据，包括关于政治人物的帖子，并将其投票和人口普查规则表述为全球适用，而不仅限于美国。Meta有60天的时间回应委员会。
全球各国政府和平台正在收紧对合成媒体的规则。例如，中国最高人民法院 制定了责任规则 于9月7日生效，规定未经同意创建或分享某人的面部或声音的AI副本属于侵权行为。 Cryptopolitan 报道 北京今年早些时候在“清朗”清理行动的第一阶段单独移除了14,000多个AI产品。
欧盟的 《AI生成内容透明度行为准则》 推动提供商标记AI输出，部署者标记深度伪造。
Google Play的AI生成内容政策 禁止用户 发布非自愿的深度伪造色情内容和“明显具有欺骗性或虚假”的选举内容。
只有少数用户被允许在Medium上使用AI撰写未披露的内容，并且 该平台 outright 禁止AI生成的虚假信息 。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
常见问题
Meta 监督委员会作出了什么决定？
委员会推翻了 Meta 保留一段由人工智能生成的苏格兰工党议员视频的决定，要求根据“仇恨行为”政策将其删除，因为该视频指控难民群体犯有掠夺性性犯罪；同时认定 Meta 的深度伪造标注规则存在不足。
为何该深度伪造视频被视为仇恨言论而不仅仅是虚假信息？
委员会多数成员指出，该视频指控难民作为一个整体犯有严重罪行和掠夺性性行为，这违反了 Meta 的“仇恨行为”规则；委员会认为仅以虚假信息为由不足以支持删除，但该视频本应被标记为“高风险人工智能”。
Meta 接下来需要做什么？
Meta 必须在 60 天内回应董事会提出的九项建议，其中包括降低“高风险”标签的门槛、优先对报告的人工智能内容进行人工审核、对高风险人工智能内容取消广告收益或降低其排名，并发布年度数据说明其应用人工智能标签的频率。
Hannah Collymore
汉娜是一位作家兼编辑，在加密货币领域拥有近十年的博客写作和活动报道经验。在Cryptopolitan，汉娜负责新闻板块，报道和分析DeFi、RWA、加密货币监管、AI和前沿科技行业的最新发展。她毕业于阿卡迪亚大学，获得工商管理学位。
