- 用于标记人工智能图像以打击虚假信息的元数据。.
- 挑战：某些人工智能工具不会添加水印，这会带来风险。.
- Meta扩展了所有经过处理的媒体的规则。.
Meta（前身为 Facebook）推出了一项扩展政策，以应对其平台（包括 Facebook、Instagram 和 Threads）上人工智能生成内容激增所带来的挑战。
为了应对生成式人工智能技术的日益普及，该公司将在人工智能生成的图像上添加警告标签，告知用户这些图像的生成来源。虽然此举被视为积极举措，但人们仍然担忧其在打击恶意行为者方面的有效性以及该技术的局限性。.
人工智能生成图像上的警告标签
Meta 最新政策调整包括为人工智能生成的图像添加标签，无论这些图像是使用 Meta 自主研发的人工智能生成工具还是其他公司提供的工具生成的，都会标明其人工智能生成性质。此举旨在降低人工智能生成的图像被冒充真实照片而传播错误信息和虚假信息的风险。.
Meta 一直将其 AI 生成的图像标记为“AI 生成”，主要是通过dent其算法嵌入到输出中的数字水印来实现的。.
挑战与局限性
尽管 Meta 致力于实施这些警告标签，但仍存在诸多挑战。其中一个显著的挑战是，许多 AI 图像生成工具不会在其输出结果中添加水印，这使得恶意行为者可以轻易地篡改和传播 AI 生成的内容而无需披露。.
此外，可靠地检测人工智能生成的图像并对其进行标记的技术仍在开发中，目前还没有普遍采用的标准。.
由Adobe发起的“内容溯源与真实性联盟”（C2PA）一直致力于协调各公司在内容溯源方面的工作。然而，迄今为止开发的技术并非万无一失。.
研究人员已经证明，水印很容易被破坏，或者可以添加到非人工智能生成的图像中，从而削弱水印的有效性。.
加州大学伯克利分校信息学院教授、C2PA 计划顾问哈尼·法里德警告说，不法分子可能会使用不会在其输出中添加水印的 AI 工具来进一步欺骗用户。.
他认为，为了可靠，可能需要结合dent人工智能生成的内容识别多种dent方法，例如水印技术和基于哈希的技术。水印技术在图像以外的人工智能生成媒体（例如音频和视频）方面的应用尚不成熟。
扩大政策和监管
虽然Meta的新政策代表着打击虚假内容的一大进步，但这些政策并不局限于人工智能生成的内容。该公司由dent 专家组成的监督委员会最近维持了Meta的决定，即保留一段经过剪辑以造成误导的乔·拜登dent 视频。.
这一决定凸显了 Meta 需要修订和扩展其“操纵媒体”规则，使其涵盖范围不仅限于人工智能生成的内容。.
Meta 的发言人 Kevin McAlister 承认需要采取更广泛的方法，他表示：“虽然各公司开始在其图像生成器中加入信号，但他们还没有开始以同样的规模将其纳入生成音频和视频的 AI 工具中。”
因此，Meta 正在努力添加一项功能，让用户在分享 AI 生成的视频或音频时可以进行披露，以便应用适当的标签。.
如果你正在阅读这篇文章，你已经领先一步了。 订阅我们的新闻简报，继续保持领先优势。
免责声明：本页面提供的信息并非交易建议。Cryptopolitan.com对任何基于本页面信息进行的投资概不负责。我们tron您在做出任何投资决定前进行独立dent /或咨询合格的专业人士。Cryptopolitan研究
布莱恩·库姆
Brian Koome在区块链和加密货币报道领域拥有超过七年的经验，自2017年以来一直活跃于该行业。他曾为包括BlockToday.com在内的多家知名媒体撰稿。此外，在加入 Cryptopolitan 担任全职撰稿人之前，他还为BitDegree.org开发了 Ethereum 101课程。Brian的文章涵盖常青指南、深度分析、访谈和价格分析。他对 DeFi、区块链创新和新兴加密项目的关注深受读者喜爱。.
