AI 辅助科学研究引发担忧

- 人工智能在科学论文写作中的辅助作用日益增强。
- 关于AI生成内容的伦理问题引发关注。
研究表明,生成式 AI 在科学写作中的使用率很高,一些研究人员将其视为一种有效的方法,这可能会对真正的研究和学术工作的本质构成威胁。
AI 对科学写作的日益影响
学者们发现,与其他类型的写作(如期刊和书籍)相比,AI 生成的写作量相当可观。这种基于语言学的分析暗示,通常与大型语言模型 (LLM) 相关的词汇(如“错综复杂的”、“关键的”和“一丝不苟的”)在文本中的使用量大幅增加。
由伦敦大学学院 Andrew Gray 收集的数据显示,2023 年之后,某些领域的论文中仅有 1% 得到 AI 的辅助。随后,斯坦福大学在 4 月的另一项研究发现,基于研究主题,有偏见的评论比例在 6.3% 到 17.5% 之间。
检测 AI 影响
语言测试和统计分析是用于将单词或短语与 AI 辅助联系起来的工具之一。尽管像“红色”、“结果”和“之后”等修改过的单词直到 2023 年变化较少,但随后与 LLM 生成内容相关的形容词和副词的使用开始激增。
确切地说,“一丝不苟的”、“值得称赞的”和“错综复杂的”这些词增加了 117%,在 2022 年之后达到了最高比率。斯坦福大学的研究观察到了人工智能语言使用的转变,这表明 AI 语言在其所有科学学科的使用中不断改进。
研究还披露,AI 语言歧视与 AI 采用的学科差异一致。计算机科学和电气工程等领域处于 AI 章程语言教学的前沿。然而,数学、物理或《自然》等学科并没有出现更剧烈的转变,而是出现了更保守的增长。
AI 辅助学术写作中的伦理挑战
作者如果在预印本上更为多产,在高竞争的研究领域工作,并渴望发表短文,则更容易受到 AI 辅助写作的影响。显然,这种模式揭示了时间限制与 AI 生成内容导致发表内容增加之间 presumed 关系。
AI 一直是加速研究过程的关键推动者。然而,当该技术被用于摘要和其他科学论文部分等不同任务时,它仍然引发伦理问题。某些出版商认为,如果 LLM 的代理讨论一篇并非仅由人类作者撰写的科学论文,这属于剽窃,并在某种程度上是不道德的。
避免 AI 生成文本中不准确性的必要性,例如虚构的引用和例子,仍然是学者沟通的一个关键特征,人们不应忽视透明和诚实。使用 LLM 驱动材料的作者需要让读者了解他们使用的研究方法,以维持研究诚信和标准行为。
随着 AI 在学术写作中影响力的增加,学术界的架构师面临着解决伦理影响并确保研究文章可靠性的严峻挑战。AI 是一项极大地促进研究活动的伟大技术,但为了保持科学诚信,仍然必须保持诚实和正直。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗?加入他们。
免责声明: 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在进行任何投资决策之前,进行独立研究或咨询合格的专业人士。

Emman Omwanda
Emmanuel Omwanda 的专业领域是加密货币市场,涵盖基本面和技术面分析。在加入 Cryptopolitan 之前,他曾供职于多家加密媒体网站,包括 CoinEdition、The Crypto Basic、CryptoNews Flash 和 DroomDroom。他拥有肯尼亚内罗毕大学数学与计算机科学理学学士学位(BSc.),目前正处于传播与媒体研究文学学士课程的最后一年。
















