未申报使用ChatGPT引发科学出版界的担忧

在最近的一项引发科学界涟漪的发展中，研究人员发现了在科学论文中不诚实地使用流行AI聊天机器人ChatGPT的案例。这些发现凸显了人们对研究出版物透明度和诚信日益增长的担忧。

发现

8月9日，期刊《Physica Scripta》发表了一篇旨在解开复杂数学方程的论文。然而，目光敏锐的计算机科学家Guillaume Cabanac注意到手稿第三页上有一个奇怪的短语：“Regenerate response”（重新生成响应）。这个短语原来是ChatGPT的一个标签，ChatGPT是一个用于响应用户提示生成文本的AI聊天机器人。Cabanac迅速在PubPeer上分享了他的发现，PubPeer是一个科学家讨论已发表研究的平台。

随后的调查揭示，该论文的作者确实使用了ChatGPT来协助起草他们的论文。值得注意的是，这一异常在两个月的同行评审过程和排版阶段都未被发现。因此，出版商IOP Publishing决定撤稿，因为作者在提交时未声明使用该工具。

更广泛的问题

此案并非孤例。自4月以来，Guillaume Cabanac在PubPeer上发现了十几篇包含典型ChatGPT短语“Regenerate response”或“As an AI language model, I…”（作为AI语言模型，我…）的期刊文章。包括Elsevier和Springer Nature在内的许多出版商允许使用ChatGPT和类似的语言模型，前提是作者必须声明。

然而，这些被检测到的案例只是冰山一角。研究人员怀疑，许多未经同行评审的论文在未适当声明的情况下使用了ChatGPT。这些短语本身也在演变，ChatGPT在一次更新中将其“Regenerate response”按钮更改为“Regenerate”。

跨期刊的未申报使用

Guillaume Cabanac在Elsevier期刊发表的论文中发现了典型的ChatGPT短语。在一例中，8月3日发表在《Resources Policy》上的一篇论文探讨了电子商务对发展中国家化石燃料效率的影响。Cabanac注意到方程中存在不一致之处，但露馅的是表格上方的一句话：“请注意，作为AI语言模型，我无法生成特定表格或进行测试…”

Elsevier已承认该问题并正在调查中。该论文的作者隶属于中国沈阳的辽宁大学和中国北京的中国经济贸易合作学院，目前未回应置评请求。

检测欺骗的挑战

未披露由计算机软件部分或全部撰写的论文并非新鲜事，但它们通常表现出可区分的痕迹，如语言模式或误译的短语。然而，删除那些样板式的ChatGPT短语后，AI生成的文本几乎无法被发现。这给科学界带来了持续的挑战，通常被描述为骗子与维护研究诚信者之间的“军备竞赛”。

对同行评审的影响

未披露使用ChatGPT的情况也出现在经过同行评审的会议论文和预印本中。当在PubPeer上被质问时，作者有时会承认未声明地使用ChatGPT。这一揭露凸显了一个重大问题——不堪重负的同行评审员可能没有足够的时间彻底审查手稿中的红旗信号。

虚假手稿的兴起

像ChatGPT这样的生成式AI工具的普及引发了人们对论文工厂（为寻求提高发表量的研究人员生产和出售虚假手稿的公司）可能崛起的担忧。这种现象可能会加剧学术出版中已经存在的严峻问题。

识破欺骗

众所周知，像ChatGPT这样的语言模型会生成虚假参考文献，这是试图检测手稿中是否使用AI的同行评审员的一个潜在信号。在某些情况下已发现虚构的参考文献，作为警示评审员的红旗信号。仔细核实参考文献变得越来越重要。

在科学出版物中发现未披露的ChatGPT使用情况，强调了研究和透明度及诚信的重要性。随着科学界努力应对不断发展的AI工具带来的挑战，很明显，更严格的指南和同行评审中提高警惕对于维护学术出版的信誉至关重要。解决这些问题对于确保知识追求扎根于伦理原则和严谨的研究实践至关重要。