OpenAI推迟了其备受期待的文本检测工具的发布，该工具旨在检测其ChatGPT模型生成的文本。据报道，发布延迟的原因是可能存在一些问题，这些问题可能会影响用户体验和生态系统。
《华尔街日报》报道称， OpenAI过去一年一直在筹备发布这款工具，但一直未能发布，主要原因是存在风险和各种问题。推迟发布似乎也与用户的反馈有关。OpenAI进行的一项调查发现，近三分之一的ChatGPT忠实用户可能会因为引入反作弊技术而放弃使用。
反作弊工具的工作原理
根据民主与技术中心的数据，59%的中小学教师认为dent在作业中使用了人工智能，这一比例比上一年有所上升。
这款反作弊工具的工作原理是在人工智能生成的文本中嵌入水印。虽然这种水印肉眼不可见，但 OpenAI 的检测技术能够识别它。该工具会提供一个分数，代表给定文本由 ChatGPT 生成的概率。据称，这种水印技术近乎完美，内部文件显示，当 ChatGPT 大量生成内容时，其有效率高达 99.9%。
然而，该工具也引发了一些问题。其中一个主要担忧是，它可能对非英语母语者不利。有人担心水印功能可能不够有效，或者会将英语水平较差的作者的作品误判为抄袭。此外，批评者还担心水印可以通过翻译或插入/删除表情符号来擦除或篡改。
另一个问题是应该允许谁使用检测工具。限制访问权限可能会降低水印方法的适用性；但是，允许自由访问则可能使该方法失效。
其他科技巨头也开发了类似的解决方案。
尽管 OpenAI 尚未在文本中实现防作弊工具，但该公司已开始对音频和视频输出应用水印技术。该公司将这些多媒体格式视为优先事项，因为人工智能生成的深度伪造内容比基于文本的内容风险更高。
其他科技公司也在开发类似的解决方案。例如，谷歌也推出了名为 SynthID 的水印解决方案，目前仍处于测试阶段。然而，OpenAI 更注重音频和视觉水印，而非文本水印，因为前者的影响更为严重，并且可能在选举年等关键时期发生。
就在埃隆·马斯克再次对簿公堂，起诉 OpenAI 之际，传出了这条消息。马斯克指控该公司及其创始人萨姆·奥特曼和格雷格·布罗克曼偏离了创建人工智能以改善人类的初衷。
