最新新闻
为您推荐

Google 开源水印工具,帮助用户识别 AI 生成文本

作者Enacy MapakameEnacy Mapakame 3 分钟阅读
Google 开源水印工具,帮助用户识别 AI 生成文本
  • “Google 的 AI 生成文本检测器 SynthID 不会影响文本的质量与准确性。”
  • 此举被视为应对深度伪造的正确一步。
  • 其他科技公司如 OpenAI 也曾开发文本水印工具,但推迟了发布。

Google 已开源 SynthID 文本水印工具,该技术使用户能够轻松检测文本是原创还是由 AI 生成。

据谷歌介绍,AI 生成文本检测器可从 AI 平台 Hugging Face 和谷歌更新的负责任生成式 AI 工具包中下载。随着过去两年生成式 AI 的爆发,水印变得尤为重要,因为大型语言模型(LLMs)正被操纵用于传播虚假信息和错误信息,以及非自愿的色情内容,并被用于恶意目的。

此次进展源于紧迫的开发需求,欧盟执法机构担忧到2026年90%的在线文本可能为合成内容,从而导致宣传、欺诈和欺骗泛滥。

谷歌研究人员解释其水印工具

在X平台的一篇帖子中,这家搜索引擎巨头透露将开源其SynthID Text水印工具,并表示该工具“将免费提供给企业和开发者,以帮助他们识别AI生成的内容。”

Google DeepMind研究副总裁、Google DeepMind研究论文合著者Pushmeet Kohli表示:“该系统不会损害AI模型的功能,反而能使其更完善。”

图像和视频一直是内容凭证讨论的核心,而水印已被视为对抗深度伪造所需的关键解决方案。

内容来源和真实性联盟(C2PA)——由科技公司和主要媒体机构合作,旨在建立一种系统,通过附加加密元数据来指示 AI 生成的图像和视频文件——也在这些讨论中处于核心地位。

根据谷歌 DeepMind 的研究论文,SynthID Text 在生成过程中进行干预,它会修改聊天机器人输出的部分词语,使其对 SynthID 检测器清晰可辨,但对人类几乎不可见。

“像这样的修改将统计签名引入 AI 生成的文本中,在水印检测阶段,可以测量该签名以查看文本是否来自水印 LLM 的 AI 模型,”研究人员在论文中写道。

大型语言模型(LLM)通过逐词生成句子来驱动聊天机器人,它们会根据前文上下文选择最可能的下一个词。通过对候选词随机分配数值分数,LLM 会生成得分较高的词语。水印将被添加到文本中,该文本随后会被检测器分析,并因具有较高分数而被识别。

行业专家称赞谷歌迈出了正确的一步

尽管 DeepMind 系统在水印文本方面表现优于其他工具,但研究者在论文中也承认该工具仍存在缺陷。例如,如果修改由 Gemini 生成的文本,检测器就会被误导。

虽然 SynthID 并非识别 AI 生成内容的万能钥匙,但它是开发更可靠 AI 识别工具的重要基石。”

—— Kohli.

如果用户大幅修改文本内容,或借助其他聊天机器人对文本进行摘要,水印检测器可能会在识别 AI 生成文本时产生误判。

Google 声称,SynthID Text 不会损害文本生成的质量、准确性或速度,这是其 Gemini 模型内集成的系统测试结果。该公司还补充道,该技术即使在文本被裁剪、修改或改写后依然有效。

“当将实际应用场景纳入考量时,检测便成为一个尤为突出的问题,因为在真实环境中审查文本存在诸多挑战:必须明确已应用何种水印模型,才能定位并识别其中的信号。”C2PA 指导委员会成员布鲁斯·麦科马克解释道。

除了 Google,OpenAI 多年来也在致力于 AI 文本水印技术,但 推迟了其发布,原因是技术与商业可行性问题。

但行业专家普遍称赞谷歌的这一举措是朝着正确方向迈出的重要一步。

“这为改善 C2PA 在文档和原始文本中使用的持久内容凭证的使用带来了希望,”微软媒体来源总监兼 C2PA 执行主席 Andrew Jenks 说。

MacCormack 还补充说,虽然谷歌研究人员仍有很多工作要做才能使这一案例具有实用性,但这仍然是一项伟大的倡议,并且是“前方马拉松的第一步”。

最聪明的加密领域人士已经在阅读我们的通讯。想加入吗?加入他们。

免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资,我们不承担任何责任。我们强烈建议在进行任何投资决策之前,进行独立研究或咨询合格的专业人士。

Enacy Mapakame

Enacy Mapakame

Enacy Mapakame 是一位拥有超过 10 年商业与财经新闻经验的记者。她专注于资本市场及新兴技术领域,涵盖元宇宙、人工智能和加密货币。Enacy 拥有媒体与社会研究荣誉学士学位。

更多新闻…