研究凸显人工智能关注点导致知识崩溃的威胁

普瓦捷大学的研究员 Andrew J. Peterson 最近发表了一项研究，在 Hacker News 和 Reddit 等多个平台上引起了轰动。 

Peter 认为，这种“知识崩溃”可能源于我们对人工智能系统（包括语言模型和知识库）的持续日益增长的依赖，这些系统满足了我们的信息需求。随之而来的是，计算机化的 人工智能 可以帮助人们获得更传统的智慧，但也存在忽视和遗忘对发展至关重要的独特和异端思想的风险。

理解知识崩溃

随着知识变得越来越压缩，人们不断经历信息带宽的缩小，同时感知到使用多样化信息库的价值降低，Peterson 将认知崩溃引入为一种进展。 

然而，这种现象不仅阻碍了使重大飞跃的创新思想，而且对在所有领域发现突破所必需的关键条件——人类思维的多样性——构成了危险。

研究论文解释了人工智能系统如果只关注必须阅读的数据流和极其流行的数字，可能会导致非常规知识（创造力赖以生存和创新依赖的“正确食物”）被排除在外的情况。 

Peterson 毫不犹豫地警告我们，如果我们越来越依赖这些人工智能技术来选择我们的知识，我们将发现自己被困在“从众者的合唱”中，只剩下受限的理解和想象范围。

导航人工智能对知识的偏见 

为了找出知识崩溃的真正原因，他设计了一个简单的数学模型，展示了使用人工智能时知识的积累。他的研究结果表明，人工智能机制对主流知识的微小偏好显著影响了公共知识分布，并加剧了边缘知识领域的边缘化。 

此外，该模型提出，这种现象受到递归自主系统相互依赖性的极大加速，其中仅仅灌输的偏见或使人工智能倾向于常规的错误作为下一次迭代的模板。

在 Peterson 的模型中，在个人前沿学术知识过程中获得的激励具有巨大价值。论文指出，这些激励将是我们抵御以下情况的唯一防线：经济和社会压力导致思维模式的同质化，并关闭了创新思想产生所必需的思想多样性之门。

平衡人工智能对足够规模知识的追求

知识的头脑风暴一方面被描绘为可能的毁灭，但另一方面，文章探讨了防止这种负面影响的方法。 

据彼得森所述，关键问题之一是将社会实体和官方实体的努力结合起来，而不是仅仅让个人独自承担所有工作。例如，人工智能系统的设计有能力偏离既定任务，包括那些小众和不常见的方面，其目标是保持整个人类知识谱系不仅易于获取，而且受到重视。

此外，鉴于去中心化、开放的知识库作为人工智能在此方面狭隘影响的替代方案，也被视为一种可能的解决方案。像Wikidata、arXiv或IPFS这样的平台可以作为防止边缘知识流失的堡垒，因此，大数据的尾部将始终像人类的新前沿一样令人兴奋且易于发现。

呼吁多样化的知识以维持人类知识

彼得森的论文有力地证明了异质思维和价值生成的意义，在人类未来的努力和发明背景下，这一点需要铭记于心。 

随着人工智能的整合，知识收集的过程不可避免地会变得更加复杂。因此，在这个数字世界中保持信息的丰富性和多样性成为一种必要。

这项研究引发的辩论提出了对社区至关重要的关键问题；讨论的核心元素是我们认为人工智能在我们社会中的角色是什么。鉴于人工智能融入我们生活的困难，彼得森关于知识崩溃的担忧促使我们反思，我们应该做什么来避免人工智能的地位降低人类知识，而不是增加它。 

在人工智能知识策展领域快速发展的背景下，在人类知识生成的竞争中保持一个功能齐全且充满活力的思想阵容，作为我们作为一个不断进化的物种的社会未来，是最困难的问题。

新闻来源：https://hackernoon.com/ai-and-the-problem-of-knowledge-collapse