谷歌开源水印工具，供用户dent人工智能生成的文本

谷歌已将 SynthID 文本水印工具开源，该技术使用户能够轻松检测文本是原创的还是人工智能生成的。.

据谷歌称，用户可以从人工智能平台 Hugging Face 和谷歌更新后的 Responsible GenAI Toolkit 下载这款人工智能生成的文本检测器。过去两年，随着生成式人工智能的蓬勃发展，水印的重要性日益凸显，因为低级水印（LLM）正被滥用于传播虚假信息、未经同意的性内容以及用于其他恶意目的。.

因此迫切需要开发此类工具 欧盟执法机构 担心到 2026 年 90% 的网络文本可能是合成的，这将导致宣传、欺诈和欺骗行为猖獗，

谷歌研究人员解释了他们的水印工具

一篇 X 平台上的，这家搜索引擎巨头透露，它正在开源其 SynthID 文本水印工具，并表示该工具将“免费提供给企业和开发者使用，因为它将帮助他们识别dentAI 生成的内容”。

普什米特·科利副总裁dent 谷歌DeepMind一篇研究论文的合著者

图片和视频一直是内容dent讨论的核心，水印被认为是打击深度伪造技术所需的解决方案。.

( 内容来源和真实性联盟 C2PA) 是由科技公司和主要媒体机构合作成立的，旨在制定一个系统，将加密元数据附加到文件上，以指示人工智能生成的图像和视频文件，该联盟在这些讨论中也发挥了核心作用。

根据谷歌DeepMinds的研究论文，SynthID文本在生成过程中会进行干扰，因为它会改变聊天机器人发出的一些词语，使其对SynthID检测器清晰可见，但对人类几乎不可见。.

研究人员在论文中写道：“像这样的修改会将统计特征引入 AI 生成的文本中，在水印检测阶段，可以通过测量该特征来判断文本是否来自带有水印的 LLM 的 AI 模型。”.

通过逐词生成句子，这就是聊天机器人背后的语言逻辑模型（LLM）的工作原理：它们根据上下文选择下一个可能的词。LLM 通过随机给候选词分配分数，生成得分更高的词。如果一段文本被检测器分析并被判定为得分较高，则会在文本上添加水印。.

今天，我们将通过更新后的负责任生成式人工智能工具包开源我们的 SynthID 文本水印工具。.

它免费向开发者和企业开放，可以帮助他们dent人工智能生成的内容。🔍

了解更多 → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y

— Google DeepMind (@GoogleDeepMind) 2024年10月23日

业内专家称赞谷歌朝着正确方向迈出了一步。

尽管DeepMind的系统在文本水印方面优于其他工具，但研究人员在论文中承认，该工具仍然存在缺陷。例如，如果您修改Gemini生成的文本，检测器就会被欺骗。.

“虽然 SynthID 不是dentAI 生成内容的万灵药，但它是开发更可靠的 AIdent工具的重要组成部分。”

——科利。.

如果用户大幅修改文本或使用其他聊天机器人来概括文本，则检测器在为 AI 生成的文本添加水印时会出错。.

谷歌声称，SynthID Text 不会影响文本生成的质量、准确性或速度，这一点已通过其 Gemini 机型。该公司还补充说，即使是经过裁剪、修改或改写的文本，它也能正常工作。

“当开始考虑在实际情况下实施时，检测就成了一个特别棘手的问题，因为在实际环境中审查文本存在问题，人们必须知道应用了哪种水印模型才能知道信号的位置和应用方式，”C2PA 指导委员会成员 Bruce MacCormack 解释道。.

除了谷歌之外，OpenAI 也多年来一直在研究 AI 文本水印技术，但 ，推迟了该技术的发布 。

但业内专家普遍称赞谷歌的这项举措是朝着正确方向迈出的一步。.

“它有望改进 C2PA 提供的持久内容dent在文档和原始文本中的使用，”微软媒体来源总监兼 C2PA 执行主席 Andrew Jenks 表示。.

麦考马克还补充说，虽然谷歌的研究人员还有很多工作要做才能使之成为一个切实可行的方案，但这仍然是一项伟大的举措，也是“未来马拉松的第一步”。