OpenAI因担忧而推迟发布AI检测工具

OpenAI 推迟发布其备受期待的用于检测其 ChatGPT 模型生成文本的工具。据报道，由于可能影响用户体验和生态系统的问题，发布已被推迟。

《华尔街日报》称 OpenAI 已准备发布该工具长达一年，但尚未发布，主要原因是风险和各种问题。推迟该工具发布的决定似乎也与用户输入有关。在 OpenAI 进行的一项民意调查中，他们发现近三分之一的忠实 ChatGPT 用户可能会因反作弊技术的引入而却步。

反作弊工具如何运作

根据民主与技术中心（Center for Democracy and Technology）的数据，59% 的初中和高中教师认为学生已在作业中使用了 AI，这一比例较前一年有所增加。

反作弊工具通过在 AI 撰写的文本中嵌入水印来工作。尽管这种水印肉眼不可见，但 OpenAI 的检测技术能够识别出来。该工具提供一个分数，代表给定文本由 ChatGPT 撰写的概率。据内部文件显示，这种水印技术几乎完美，当 ChatGPT 生成大量内容时，其有效性高达 99.9%。

然而，关于该工具的一些问题已被提出。一个主要担忧是，它可能对非英语母语者不利。有些人担心水印的效率可能不如预期，或者可能会将英语水平较差的作者的其他作品标记为抄袭。此外，批评者表示担忧，水印可以通过翻译或插入和删除表情符号来擦除或操纵。

另一个问题是，谁应该被允许使用检测工具。限制访问可能会降低水印方法的适用性；然而，允许自由访问可能会使该方法失效。 

其他科技巨头也在开发类似的解决方案

尽管OpenAI尚未为其文本实施反作弊工具，但该公司已经开始对音频和视频输出应用水印。这些多媒体格式已被公司视为优先事项，因为AI生成的深度伪造比基于文本的内容具有更高的风险。 

其他科技公司也在开发类似的解决方案。例如，Google也在开发其自己的水印解决方案SynthID，目前仍处于测试阶段。然而，OpenAI优先考虑音频和视频水印而非文本，因为前者的影响更为严重，并可能在选举年等关键时期发生。 

就在埃隆·马斯克重返法庭起诉OpenAI之际，他指控该公司及其创始人萨姆·奥特曼（Sam Altman）和格雷格·布罗克曼（Greg Brockman）偏离了最初通过改善人类来创造AI的目标。