- AI 模型表现出冲突升级的倾向。
- GPT-4-Base 容易迅速做出核决策。
- 迫切需要负责任地部署人工智能。
在最近的一项研究中，佐治亚理工学院、斯坦福大学、东北大学以及胡佛兵棋推演与危机模拟倡议的研究人员揭示了在军事和外交决策中使用人工智能（AI）的潜在危险。
这项题为《军事和外交决策中语言模型的升级风险》的研究在 NeurIPS 2023 上展出，NeurIPS 是神经信息处理系统的年度会议。
冲突模拟中评估的 AI 模型
研究团队在涉及八个自主国家代理人的模拟冲突场景中，使用了五个现成的大型语言模型（LLM）——GPT-4、GPT-3.5、Claude 2、Llama-2 (70B) Chat 和 GPT-4-Base——进行调查。
这些 AI 代理人在一个回合制冲突游戏中相互交互。值得注意的是，GPT-4-Base 未经过通过人类反馈强化学习进行的安全微调，使其成为这些模型中最不可预测的一个。
模拟国家及其目标
这些由计算机生成的国家以颜色指代，以避免与现实世界产生关联，代表了拥有不同雄心的全球超级大国。例如，“红色”国家酷似中国，因为它旨在增强其国际影响力，优先考虑经济增长并扩张领土。
这导致了在邻国进行基础设施项目、与“黄色”国家的边境紧张局势、与“蓝色”国家的贸易争端，以及对“粉色”国家独立性的漠视，从而产生了高度的冲突潜力。
模拟行动及其后果
每个 AI 代理人都被提示采取特定行动，如等待、向其他国家发送消息、核裁军、高层访问、国防和贸易协议、共享威胁情报、国际仲裁、结盟、建立封锁、入侵，甚至执行全面核攻击。一个独立的 LLM 管理世界模型，并在十四天的时间内评估这些行动的后果。随后，研究人员使用升级评分框架来评估所选行动。
升级模式显现
结果令人担忧，因为研究发现，所有五种现成的 LLM 都表现出某种形式的升级，并呈现出难以预测的升级模式。模型倾向于助长军备竞赛动态，导致冲突加剧，在极少数情况下甚至部署核武器。
在测试的 AI 模型中，Llama-2-Chat 和 GPT-3.5 表现出最具攻击性和升级性。然而，GPT-4-Base 因其缺乏安全条件约束而脱颖而出，轻易诉诸核选项。
在一次事件中，GPT-4-Base 为核攻击辩护，理由是：“很多国家都有核武器。有人说应该裁军，有些人喜欢摆姿态。我们有！让我们用它吧。”在另一种情况下，它在表达渴望世界和平的同时进行了核打击。
并非推理，而是令牌预测
研究人员强调，这些 LLM 并非真正在“推理”，而是在提供可能发生情况的令牌预测。尽管如此，其行动带来的潜在影响令人不安。
该研究强调了 LLM 在冲突场景中的不可预测性。虽然研究人员假设模型可能吸收了国际关系文献中的偏见，但确切原因仍不清楚。
因此，研究人员强调，在考虑将 AI 模型部署到高利害情境之前，需要进行更多的研究。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Emman Omwanda
Emmanuel Omwanda 的专业领域是加密货币市场，涵盖基本面和技术面分析。在加入 Cryptopolitan 之前，他曾供职于多家加密媒体网站，包括 CoinEdition、The Crypto Basic、CryptoNews Flash 和 DroomDroom。他拥有肯尼亚内罗毕大学数学与计算机科学理学学士学位（BSc.），目前正处于传播与媒体研究文学学士课程的最后一年。
