研究人员建议制定 AI 指南以减少科学研究中的错误

证据表明，机器学习在科学研究中的应用存在重大缺陷。这个问题在许多涵盖不同领域的研究论文中已被识别，但由 19 名来自不同学科的研究人员组成的团队在普林斯顿大学计算机科学家 Arvind Narayanan 和 Sayash Kapoor 的监督下，发布了关于在科学中负责任地使用机器学习的 AI 指南。

科学研究中的 AI 指南

作者在报告中表示，他们的工作旨在指出这种可能在整个研究生态系统中蔓延的可信度问题。Narayanan 认为，目前没有保护研究方法完整性的通用标准，而机器学习现在已应用于所有科学领域，因此这可能成为比十年前在社会心理学中观察到的复制危机更严重的问题。他将当前的危机称为可重复性危机。正如 Narayanan 所说，

“当我们从传统的统计方法转向机器学习方法时，自毁的方式将呈指数级增长。”

来源： AzoAI.

但来自健康研究、计算机科学、社会科学和数学领域的作者们也带来了一些积极的消息。他们说，一套最佳实践可以帮助解决当前的问题。计算机研究生 Kapoor 组织了这项研究工作以产生科学工作的检查清单，并与 Narayanan 合作，他表示这个问题是系统性的，因此其 解决方案也应该是系统性的。

出版速度可能会放缓，但准确性将提高

新共识清单的重点是确保利用机器学习的研究的真实性。科学的进步基于结果的可重复性，以及主张应得到独立验证的事实。如果没有这一点，新的科学研究就无法在以往工作的可靠基础上进行，整个体系将失去公信力。

新的清单要求研究人员提供关于机器学习模型使用的详细信息，因为他们需要提供用于训练模型的数据集、代码、硬件能力、试点设计和研究目标，以及研究结果的任何限制，因为重点在于透明度。

虽然这些新标准的更高要求可能会导致新研究出版的放缓，但该倡议的研究人员仍然相信，采用这些规则将有助于提高整体发现和创新的速率。 

该研究的一位作者、普林斯顿大学的博士生 Emily Cantrell 表示，他们确实关心科学研究的进度，但通过确保发表的研究 论文质量达标，未来的论文可以依赖它们进行进一步的研究。Kapoor 还表示，考虑到错误在集体层面上的整体影响，错误是不利的，并且浪费时间，进而阻碍获得资金和投资的科学研究，从而造成经济损失。