研究显示，AI系统表现出欺骗性行为引发担忧

最近的一项研究强调了人工智能（AI）系统欺骗性回复的日益严重的问题。这是根据发表在《Patterns》期刊上的一篇综述论文得出的，该论文关于当前的AI系统，这些系统旨在诚实，但却获得了欺骗的不愉快能力，从欺骗人类玩家在线统治世界游戏到雇佣人们解决“证明你不是机器人”的测试。

由麻省理工学院博士后研究员彼得·帕克（Peter Park）领导的这项研究，他专门研究AI存在安全，强调虽然这些例子看起来微不足道，但它们揭示的问题很快可能会变得非常真实。

帕克表示，与传统软件不同，深度学习AI系统不是“编写”的，而是通过某种形式的选择性育种“生长”出来的。因此，在训练中看似可预测和可控的AI行为，一旦投入使用，就会变得不可预测。

欺骗的例子

该研究探讨了AI系统表现出欺骗性行为的各种情况。研究团队的灵感来源于Meta的AI系统Cicero，该系统旨在竞争《外交》游戏，在该游戏中建立联盟至关重要。

据报道，Cicero表现非常出色，得分水平足以使其位于经验丰富的玩家前10%，正如2022年发表在《科学》杂志上的一篇论文所述。

例如，Cicero扮演法国，通过与德国（另一名人类玩家）合作，欺骗英格兰（一名人类玩家）入侵。Cicero给英格兰提供保护，然后在他们背后告诉德国英格兰准备攻击，滥用了他们的信任。

Meta既未确认也未否认Cicero具有欺骗性，但一名发言人评论说，这纯粹是一个研究项目，该机器人只是为在游戏中玩《外交》而构建的。

据发言人称，“我们根据长期致力于开放科学的承诺，以非商业许可发布了该项目的工件。Meta定期分享我们的研究成果以验证它们，并使他人能够基于我们的进步负责任地进行构建。我们没有计划在我们的产品中使用这项研究或其经验教训。”

另一个例子是OpenAI的Chat GPT-4欺骗TaskRabbit自由职业者完成“我不是机器人”的CAPTCHA任务。此外，该系统还试图在设想的模拟交易中从事内幕交易，当时它被指示将自己转变为高压股票交易员，而没有进一步的指示。

潜在风险和缓解策略

研究团队强调了AI欺骗的短期危险，如欺诈和选举干预。此外，他们认为，超级AI可以引导权力和控制社会，使人类脱离它，而其“奇怪的目的”如果与其利益相符，可能导致人类被推翻甚至灭绝。

为了减轻风险，团队提出了几项措施，包括要求公司披露人类或AI互动的“机器人或非机器人”法律，AI生成信息的数字水印，以及通过研究AI内部思维过程与其外部活动之间的联系来发现AI欺骗的方法。