- 大型科技公司实施措施以检测AI生成内容，增强透明度。
- 在标记和检测AI生成媒体方面仍存在技术挑战。
- 监管框架与自愿努力并行出现，以应对AI生成内容的问题。
为了应对AI生成内容泛滥带来的日益增长的担忧，主要科技公司宣布旨在检测和标记此类内容的举措。
这些努力是在泰勒·斯威夫特深度伪造色情丑闻和政治深度伪造传播等事件之后进行的。
大型科技公司合作标记和检测AI生成内容。
Meta（前身为Facebook）宣布计划在其平台（包括Facebook、Instagram和Threads）上标记AI生成的图像。这些标签，包括可见标记、不可见水印和嵌入图像文件中的元数据，旨在提高内容来源的透明度和问责制。
另一方面，Google加入了C2PA（内容真实性倡议）的指导委员会，支持一种旨在提供内容“营养标签”的开源互联网协议。此举标志着科技巨头之间建立行业范围内检测AI生成内容标准的协作努力。
OpenAI实施内容溯源措施
OpenAI也推出了应对措施。它将为其AI模型ChatGPT和DALL-E 3生成的图像元数据添加水印，提供表明AI参与内容创建的可见标签。
虽然这些方法代表了一步向前，但它们并非万无一失，在标记和检测AI生成的视频、音频和文本方面仍面临挑战。
挑战与未来展望
尽管在内容标记和水印方面取得了进展，但技术限制依然存在。元数据中的水印可以通过截取屏幕截图来规避，而视觉标签容易受到裁剪或编辑的影响。Google的SynthID等不可见水印提供了更强的韧性，但并非没有挑战。
监管框架的需求
除了自愿措施外，监管框架也日益受到重视。欧盟的《人工智能法案》和《数字服务法案》等举措要求披露AI生成的内容并加快删除有害内容。美国立法者也在考虑关于深度伪造的具有约束力的规则，联邦通信委员会最近禁止在自动语音电话中使用AI。
虽然自愿指南是朝着正确方向迈出的一步，但人们对行业问责制的担忧依然存在。科技行业自我监管的历史让人怀疑自愿措施的有效性。然而，与之前的缺乏行动相比，最近的公告标志着进步。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Emman Omwanda
Emmanuel Omwanda 的专业领域是加密货币市场，涵盖基本面和技术面分析。在加入 Cryptopolitan 之前，他曾供职于多家加密媒体网站，包括 CoinEdition、The Crypto Basic、CryptoNews Flash 和 DroomDroom。他拥有肯尼亚内罗毕大学数学与计算机科学理学学士学位（BSc.），目前正处于传播与媒体研究文学学士课程的最后一年。
