激增所带来的挑战 人工智能生成 其平台（包括 Facebook、Instagram 和 Threads）上
为了应对生成式人工智能技术的日益普及，该公司将在人工智能生成的图像上添加警告标签，告知用户这些图像的生成来源。虽然此举被视为积极举措，但人们仍然担忧其在打击恶意行为者方面的有效性以及该技术的局限性。.
人工智能生成图像上的警告标签
Meta 最新政策调整包括为人工智能生成的图像添加标签，无论这些图像是使用 Meta 自主研发的人工智能生成工具还是其他公司提供的工具生成的，都会标明其人工智能生成性质。此举旨在降低人工智能生成的图像被冒充真实照片而传播错误信息和虚假信息的风险。.
Meta 一直将其 AI 生成的图像标记为“AI 生成”，主要是通过dent其算法嵌入到输出中的数字水印来实现的。.
挑战与局限性
尽管 Meta 致力于实施这些警告标签，但仍存在诸多挑战。其中一个显著的挑战是，许多 AI 图像生成工具不会在其输出结果中添加水印，这使得恶意行为者可以轻易地篡改和传播 AI 生成的内容而无需披露。.
此外，可靠地检测人工智能生成的图像并对其进行标记的技术仍在开发中，目前还没有普遍采用的标准。.
由Adobe发起的“内容溯源与真实性联盟”（C2PA）一直致力于协调各公司在内容溯源方面的工作。然而，迄今为止开发的技术并非万无一失。.
研究人员已经证明，水印很容易被破坏，或者可以添加到非人工智能生成的图像中，从而削弱水印的有效性。.
加州大学伯克利分校信息学院教授、C2PA 计划顾问哈尼·法里德警告说，不法分子可能会使用不会在其输出中添加水印的 AI 工具来进一步欺骗用户。.
多种dent方法，例如水印技术和基于哈希的 技术，可能需要结合dent人工智能生成的内容
扩大政策和监管
虽然Meta的新政策代表着打击虚假内容的一大进步，但这些政策并不局限于人工智能生成的内容。该公司由dent 专家组成的监督委员会最近维持了Meta的决定，即保留一段经过剪辑以造成误导的乔·拜登dent 视频。.
这一决定凸显了 Meta 需要修订和扩展其“操纵媒体”规则，使其涵盖范围不仅限于人工智能生成的内容。.
Meta 的发言人 Kevin McAlister 承认需要采取更广泛的方法，他表示：“虽然各公司开始在其图像生成器中加入信号，但他们还没有开始以同样的规模将其纳入生成音频和视频的 AI 工具中。”
因此，Meta 正在努力添加一项功能，让用户在分享 AI 生成的视频或音频时可以进行披露，以便应用适当的标签。.
