ChatGPT的幻觉引用引发学术诚信审查

在纽布伦瑞克大学实验心理学博士生乔丹·麦克唐纳（Jordan MacDonald）的一篇最新博客文章中，显示ChatGPT创建的引用中超过90%是其作为权威参考文献提供的。 

加拿大心理学会的《Mind Pad》新闻指出，人工智能现在可以创建伪造的文献或引用细节，有时这些细节与真实的一样合理，因为人工智能会包括一个人可能记得并存储在大脑中的信息，如作者、标题、名称以及正确格式化的数字对象标识符（DOIs）。 

在学术研究导航人工智能的双重角色

虽然学生可能在形成原始文本与人工智能制作的语法正确但事实不正确的引用之间的对比时遇到困难，从而怀疑学术环境中观点的原创性。

该研究涉及验证心理学领域引用的真实性，涵盖以下六个子领域：在心理学中，我们研究宗教、动物、社会、临床、人格和神经心理学五个领域。 

最终，为子领域生成了100%准确的数字，根据ChatGPT的说法是300个，然而，只有32.3个被证实是真实的，这清楚地表明了所概述领域的倾向。

作为学术工作热情的人工智能：问题和缺点

ChattGPT可以提供虚假或合法的发明。麦克唐纳的研究证实了这一点。然而，在该提示中进行的特定研究与我们总是看到ChatGPT引用的研究不一致。 

换句话说，由于复杂模型的错误而节省的供应品将使居民信任这种简化。此外，它引发了关于我们在学校需要的生活技能以及这些技能的来源的讨论。 

人工智能作为进行教育研究手段的角色是否合理，取决于人工智能在模拟专家时所能达到的不可区分程度

例如，可以通过使用人工智能工具来发现主要学术作业的证据。这些信息可能对生活呈现至关重要，或者看起来有些分散。因此，人工智能智能工具和教学方法需要认真考虑。

在学术诚信中平衡人工智能的好处和风险

然而，这项研究不仅揭示了学校中人工智能相关的困难，还推动了关于在特定情况下使用时作为教育和研究活动中有价值工具的技术的讨论。 

鼓励教育工作者和研究者不仅要认识到，还要更好地理解Chat GPT等人工智能技术的局限性和能力，以便他们能够充分利用这些技术而不影响学术标准。

根据麦克唐纳的说法，他们（这些模型）确实具有巨大优势这一事实不应导致我们完全忽视它们，特别是如果它们误导我们仅依赖其结论来了解我们感兴趣的学术话题。结果还暗示了人工智能制作的矛盾作为学生工作中人工智能参与的指标，即使不遵循常识。

人工智能的进一步发展需要额外的研究，旨在阐明其应用领域和潜在局限性。Scavenge将研究检测基于人工智能的剽窃和其他形式作弊的新策略。 

一方面，像ChatGPT这样的人工智能可以在学术研究方面带来各种优势，另一方面，它也有提供脱离上下文信息（或捏造）的缺点，这可能会误导分析师或研究人员。