Meta实施人工智能内容标签以回应深度伪造担忧

为了缓解用户和政府对于深度伪造的担忧，Facebook和Instagram的巨头Meta于周五宣布，将于5月开始标记人工智能内容。这家社交媒体巨头还声明，为了尊重言论自由，它将不再删除违反其政策的修改照片和声音，而是依赖术语和上下文。该公司宣布，将包括“由AI制作”的标签。Facebook、Threads和Instagram的帖子均受此政策约束。

Meta宣布将开始将更多音频、视频和图像内容指定为人工智能（AI）生成，承认其现行政策“过于狭窄”。虽然该公司没有详细说明其检测方法，但标签将在用户承认使用AI工具时应用，或者当Meta使用行业标准的人工智能图像指标识别内容时应用。

Meta回应监督委员会的批评

这些修改是由Meta的监督委员会的批评引发的，该委员会是负责修改内容的互联网巨头的独立评估小组。随着人工智能的巨大进步以及媒体被操纵成极具说服力的深度伪造的容易程度，该委员会在2月要求Meta

迅速重新评估其操纵媒体的策略。在地方和全球选举的重要选举年期间，该委员会在担心人工智能驱动的应用程序在平台上被滥用于虚假信息的情况下发出了警告。

内容政策副总裁Monika Bickert表示，

“我们同意监督委员会的观点，即我们现有的方法过于狭窄，因为它仅涵盖由人工智能创建或修改的视频，使某人看起来像是在说他们没有说过的话。”

来源： Meta

作为对监督委员会建议的回应，Meta决定改变其对操纵媒体的方法。公司不再直接删除内容，而是依靠标签和上下文化，以提供关于内容来源和真实性的透明度。正如Meta所说，这是出于其对言论自由的承诺，同时防止误导性或欺骗性媒体带来的伤害。

人工智能内容标签的实施

Meta的标签项目将分两个阶段实施，第一阶段将于2024年5月开始。人工智能生成的内容——包括各种媒体格式，如音频、视频和图像——将在这一阶段得到适当识别和分类。为了警告用户操纵的可能性，被判定为有高风险欺骗公众的内容也将更醒目地标注。

作为Meta第二阶段的推出，仅基于旧政策删除修改后的媒体将被停止，该阶段定于7月上线。除非人工智能操纵的内容违反其他社区准则，如禁止仇恨言论或干扰选举，否则在新规范下它将在平台上保持可用。Meta致力于在保持平台完整性和允许言论自由之间取得平衡，这种方法代表了这一承诺。

Bickert补充道， 

“标签将涵盖比监督委员会建议标记的操纵内容更广泛的内容范围。” 

来源： Meta公司

无论是否使用AI工具制作，违反其他准则的内容——如涉及欺凌、干预选举和骚扰的内容——仍将被删除。

2月，主要数字巨头和人工智能公司达成协议，打击旨在误导选民的操纵性内容，这与新的标签方法有关。Meta、Google和OpenAI已就AI应用生成的照片采用单一水印标准达成一致。