为什么大型语言模型（LLM）可能对科学构成巨大风险

大型语言模型（LLM）是人工智能领域的一大飞跃。然而，关于LLM的主要担忧之一是它们能够将不准确的信息呈现为事实，这带来了多种风险。

LLM与幻觉

LLM有时会产生“幻觉”，即不符合现实的虚假或误导性陈述。这一缺陷通常源于模型训练所使用的数据。 

AI模型是在从互联网提取的海量数据上进行训练的，这些数据包含准确和不准确的信息。因此，LLM学习生成与其训练数据一致的文本，即使该文本在事实层面上不准确。

例如，如果要求LLM撰写科学论文的摘要，它可能会生成事实错误的摘要，因为它学会了将某些单词和短语与某些概念联系起来，即使这些联系并不准确。

存在这样的缺陷，使得LLM的使用成为一个问题，尤其是在事实至关重要的科学领域。 

“LLM的使用方式至关重要。在科学界，我们对事实信息的信心至关重要，因此负责任地使用LLM非常重要。如果LLM被用于生成和传播科学文章，可能会导致严重危害，”牛津互联网研究所的Sandra Wachter教授说。

使用LLM的最佳方法

在Oxford的Wachter教授、Brent Mittelstadt和Chris Russell发表的一篇研究论文中，他们认为应明确设定关于AI模型可以负责任且有用地贡献什么内容的期望，以保护科学和教育。 

研究人员指出，LLM最好用作“零样本翻译器”，这意味着用户只应向模型提供准确的信息，并要求将其重写为所需的文本。“对于真理至关重要的任务，我们鼓励用户编写包含经过验证的事实信息的翻译提示，”论文写道。