人工智能检测器停止工作：美国宪法案例研究

人工智能（AI）已经渗透到现代生活的方方面面，尤其是在文字内容生成领域。虽然这看似有趣，但AI内容识别的准确性却令人担忧。更糟糕的是， AI检测器 有时会将人类撰写的内容误判为GPT生成的；以美国宪法为例。

另请阅读：Y Combinator 的 Paul Graham 因声称带有“Delve”字样的短信是由人工智能编写而遭到抨击

美国宪法于1787年制定，1788年获得批准，并于1789年开始实施。它是世界上现存最悠久的成文政府宪章。宪法的制定比第一辆汽车的发明早了大约一个世纪。然而，人工智能检测器却显示其97.97%的内容是由人工智能生成的。.

人工智能检测器将美国宪法标记为不人道。

2023年人工智能撰写的内容数量有所增加。此后不久，市场开发者便抓住机会，开发出能够提供人工智能内容占比的检测器。这本应是一项利好，但事实并非如此。.

人工智能检测器已将美国宪法标记为人工智能内容。准确率高达97.97%。 “人工智能”一词诞生于1950年至1956年人工智能诞生的时期，并迅速流行起来。那么，人工智能怎么可能写出一份比其发明早163年的文件呢？

1950年，艾伦·图灵发表了一篇题为《计算机器与智能》的期刊文章，提出了一种名为“模仿游戏”的机器智能测试方法。这篇文章标志着我们今天所生活的世界的开端。.

1952年，一位名叫亚瑟·塞缪尔的计算机科学家开发了一个下跳棋的程序，这是第一个能够dent学习跳棋的程序。不久之后，1955年，约翰·麦卡锡在达特茅斯学院举办了一场关于“人工智能”的研讨会，这是“人工智能”一词的首次使用。.

人工智能检测器存在局限性

人工智能检测器 存在局限性，因为人工智能生成的文本模仿的是人类的写作方式。这些检测器是由训练机器写作的同一批人训练的。那么，他们的人工智能检测器是如何工作的？准确率又如何呢？另一个人工智能检测器在美国宪法中检测到1%的人工智能内容。这1%是从哪里来的？

区别在于：一些人工智能检测器会寻找某些词语，例如“delve, tapestry, utilization, many”等，这些词语通常是人工智能使用的，但对美国人来说并不常见。. 

然而，对于一些来自有英国殖民历史的国家的人来说，这些词语在口语和书面语中都很常用。.

上个月，Y Combinator 联合创始人 Paul Graham 因其在 X（前身为 Twitter）上提出的 ChatGPT 文本归因理论而受到抨击。Graham 发布了一封他收到的项目提案邮件，他认为该邮件是 AI 撰写的，因为其中包含“delve”一词。.

一位X用户说： “在那些曾被英国殖民统治的国家学习英语的人——我们就是这样学习英语的[…]‘Delve’是我们日常使用的单词。” 另一位用户则认为这是美国特有的问题。

有些国家和地区的人们仍然在使用我所谓的“文学英语”。

不幸的是，美国词汇主要基于口语（也就是你们所说的俚语）和美国当代习语，以至于对它们的熟练运用……

— 非洲研究台 (@MightiJamie) 2024年4月10日

这就引出了一个问题：人工智能检测器和内容生成器是否应该针对特定地区的英语？或者所有这些写作工具和检测器都应该被淘汰？

人工智能检测器并不准确

人工智能检测器依赖于不一致的语言特征。人类语言本身就具有多样性，包含多种风格、方言和习语。人工智能生成的文本也可能包含这些变化，这使得检测器难以准确识别。.

大约20%的AI生成文本能够逃过这些检测系统的检测，从而降低了AI检测器的可靠性。同样，大约25%的人类撰写文本会被错误地标记为AI生成。.

用户 Quora 写道： “AI 检测器将我的作品检​​测为 100% AI 生成。因为我应一位学术顾问的要求，把它当作编辑和语法工具使用。已发表文章中的文字、概念和人生经历都是我自己的。我该怎么办？”

发布的一篇新闻报道中 Cryptopolitan，人工智能生成器标记了唐纳德·特朗普说过的话。他说： “我对加密货币公司以及与这个新兴产业相关的一切都持非常积极和开放的态度。” ⁤人工智能是如何添加到口语中的？是在人的脑海中吗？还是在表达出来的思想中？

其他内容来自大卫·贝利： “我们将动员起来保卫自己。我们投票并非支持特朗普，而是反对拜登。这一切的罪魁祸首只有拜登。”

另请阅读： 特朗普加密货币竞选——你需要知道的一切

2023 年，OpenAI 在一篇推广博客文章中发布了一些教育工作者使用 ChatGPT 作为教学辅助工具的技巧。.  

在题为“AI检测器真的有效吗？”的常见问题解答部分，OpenAI 写道： “简而言之，无效。虽然一些公司（包括OpenAI）发布了声称可以检测AI生成内容的工具，但这些工具都未能证明能够可靠地区分AI生成的内容和人类生成的内容。” 区分人类内容和AI内容的问题依然存在。问题是：未来应该怎么做？

弗洛伦斯·穆查伊的Cryptopolitan 报道