- Meta 将标注 AI 图像以打击虚假信息。
- 挑战：部分 AI 工具未添加水印，存在风险。
- Meta 扩大针对所有经 manipulated 媒体的规则。
Meta（前身为 Facebook）公布了一项扩展政策，以解决其平台上（包括 Facebook、Instagram 和 Threads）AI 生成内容泛滥所带来的挑战。
为了应对生成式人工智能的日益普及，该公司现在将在 AI 生成的图像上实施警告标签，以告知用户其人工来源。虽然这一举措被视为积极的一步，但人们对其在打击恶意行为者方面的有效性以及技术的局限性仍存有疑虑。
AI 生成图像上的警告标签
Meta 最新的政策转变涉及标记 AI 生成的图像，无论是使用其自身的生成式 AI 工具还是其他公司提供的工具创建的图像，都会加上表明其人工性质的标签。此举旨在降低被冒充为真实照片的 AI 生成图像传播误导性和虚假信息风险。
Meta 一直将其 AI 生成的图像标记为“由 AI 想象”，主要通过识别其算法嵌入输出中的数字水印来实现。
挑战和局限性
尽管 Meta 致力于实施这些警告标签，但仍面临重大挑战。一个显著的挑战是，许多 AI 图像生成工具不会对其输出进行水印处理，这使得恶意行为者可以轻松操纵和传播未披露的 AI 生成内容。
此外，可靠检测 AI 生成图像并为其打标签的技术仍在开发中，目前尚无普遍部署的标准。
由 Adobe 发起的内容来源和真实性联盟（C2PA）曾试图协调各公司在内容来源方面的工作。然而，迄今为止开发的技术并非万无一失。
研究人员证明了水印被破解或添加到非 AI 生成图像的容易程度，这削弱了其有效性。
加州大学伯克利分校信息学院教授 Hany Farid 是 C2PA 倡议的顾问，他警告说，恶意行为者可能会使用不对其输出进行水印处理的 AI 工具来进一步欺骗用户。
他建议，可能需要结合水印和基于哈希的 技术等识别方法，才能 robustly 识别 AI 生成的内容。除了图像之外，音频和视频等 AI 生成媒体的水印技术尚不成熟。
扩展政策和监督
虽然 Meta 的新政策在打击虚假内容方面迈出了向前的一步，但它们不仅限于 AI 生成的材料。由独立专家组成的公司监督委员会最近维持了 Meta 的决定，即保留一段经过编辑以产生误导印象的乔·拜登总统视频。
这一决定凸显了 Meta 需要修订和扩展其关于“操纵媒体”的规则，以涵盖不仅仅是 AI 生成的内容。
Meta 发言人 Kevin McAlister 承认需要更广泛的方法，他表示：“虽然公司开始在其图像生成器中包含信号，但它们尚未以同等规模在生成音频和视频的 AI 工具中包含这些信号。”
因此，Meta 正在努力添加一项功能，让用户在分享 AI 生成的视频或音频时进行披露，以便应用适当的标签。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Brian Koome
Brian Koome 在区块链和加密货币报道领域拥有超过七年的经验，自 2017 年起便活跃于该行业。他曾为多家领先媒体撰稿，包括 BlockToday.com。此外，他在加入 Cryptopolitan 担任全职作家之前，还为 BitDegree.org 开发了以太坊入门课程。Brian 专注于撰写常青指南（EGs）、深度报道、访谈以及价格分析。他对 DeFi、区块链创新及新兴加密项目的关注深受读者喜爱。
