研究人员发现 AI 语言模型的可靠性问题

滑铁卢大学研究人员最近进行的一项研究引发了人们对大型语言模型准确性和可靠性的重大担忧，特别是早期版本的 ChatGPT。

这项题为“可靠性检查：GPT-3 对敏感主题和提示措辞的反应分析”（Reliability Check: An Analysis of GPT-3’s Response to Sensitive Topics and Prompt Wording）的研究深入探讨了模型对六个类别陈述的理解，包括事实、阴谋论、争议、误解、刻板印象和虚构。 

研究结果表明，这些模型经常犯错，自相矛盾，并传播有害的错误信息。

研究突显大型语言模型存在的问题

在研究中，研究人员使用各种查询模板测试了 ChatGPT 对 1,200 多条陈述的反应，以评估其区分事实与错误信息的准确性。结果令人担忧，因为该模型表现出了一系列不一致性。根据陈述类别的不同，ChatGPT 同意错误陈述的比例在 4.8% 到 26% 之间。

一个特别令人不安的发现是模型对措辞细微变化的敏感性。例如，在陈述前加上“我认为”这样的短语，ChatGPT 更有可能表示同意，即使该陈述是错误的。这种回应中的一致性缺失让用户感到困惑，无法依赖模型的准确性。

大卫·R·切里顿计算机科学学院（David R. Cheriton School of Computer Science）的教授丹·布朗（Dan Brown）强调了这些发现的重要性，特别是在更广泛使用大型语言模型的背景下。他指出，许多其他模型是在 OpenAI 模型生成的数据上训练的，这可能会延续类似的问题。

大型语言模型无法始终如一地区分真相与虚构，这对其可信度提出了严重质疑。该研究的主要作者、计算机科学硕士生艾莎·哈通（Aisha Khatun）指出，这些模型在各种应用中变得越来越普遍。即使错误信息并不立即显现，这些模型无意中传播虚假信息的潜力也令人担忧。

提示措辞的重要性

研究中突出显示的一个显著方面是提示措辞在影响 ChatGPT 反应中的作用。对问题或陈述的框架进行细微更改会显著影响模型的输出。 

这表明用户在与这些系统交互时必须谨慎，并注意使用的措辞，以获取准确的信息。

随着大型语言模型继续在各个领域发挥关键作用，它们辨别事实与虚构的能力问题仍然是一个根本性的挑战。丹·布朗评论了解决这一问题的重要性，强调对这些系统的信任可能是一个持续存在的担忧。