Meta将在Facebook和Instagram上标记AI生成的媒体

Facebook和Instagram的母公司Meta表示，将从5月起停止对其从合成媒体上应用的手动标签。此类法规可以减轻其媒体上常见的深度伪造和虚假信息攻击的负担。

解决虚假信息担忧

Meta预计将采取新行动以减轻合成内容的传播，以应对日益增长的批评和快速发展的AI技术。从2024年5月开始，公司将引入“由AI制作”标签，以指示文本、图像、音频和视频是否使用人工智能创建或修改。

Meta标记AI生产材料的决定是公司广泛运动的一部分，旨在为用户提供更多信息，从而带来更大的透明度。这意味着Facebook将无法删除那些伪造的东西，但可能会标记它们并将其置于上下文中。毕竟，这就是Meta首席执行官马克·扎克伯格所说的公司将要做的事情：最终启动一项关于操纵媒体危害的教育计划。据Facebook委托的监督委员会调查称。

然而，人们担心AI驱动的应用程序在虚假新闻运动中可能被用于干扰选举进程。其次，委员会表达了紧迫感，并强调在选举期间任何国家都迫切需要有效的反制措施。

推出计划和政策修改

在政策之前被删除的操纵媒体将在稍后重新启用，供消费者在Facebook的新闻内容页面上查看。根据新标准，由AI操纵的内容只有在违反其他平台规则（如反对仇恨言论或选民干扰的规则）时才会被删除。

在处理操纵内容的许多协议中，Meta非常注重与其他科技巨头和AI开发人员的合作。Meta、Google和OpenAI已就互操作性条约达成一致，通过不可见的统一水印标签，他们将在其AI自动图像应用程序中使用。然而，在处理此类挑战时，某些关于此类解决方案有效性的问题，特别是那些涉及可能不依赖此类政策的开源代码的问题，至今仍未解决。

最近发生的AI生成的深度伪造案例，这些案例被证实是真实的，将加剧社会对虚假内容的恐惧。Meta服务旨在通过标记虚假内容并仅向用户提供他们真正需要的关于其网站上内容完整性的信息来解决这一问题。

这一最新进展——社交媒体巨头Facebook宣布将在Facebook和Instagram上标注AI生成的媒体——可以被视为一种预防性举措，旨在应对由深度伪造和虚假信息引发的恐惧。其理念是通过这种方法清理所有混乱，中和因使用被篡改材料而产生的所有危险，并捍卫言论自由原则。尽管随着AI的快速发展和虚假新闻的多变性，问题依然严峻，但这些措施在缓解AI带来的挑战方面取得了显著成效。