- 研究表明，AI 系统现已具备欺骗人类的能力。
- AI 的欺骗能力带来欺诈风险。
- 研究人员紧急呼吁建立强有力的监管框架。
《Patterns》期刊最近的一项研究显示，AI 越来越擅长欺骗人类。研究发现，AI 系统已学会通过模仿来作弊、奉承，甚至模拟其他行为。
延伸阅读： 穿越 AI 深度伪造雷区：如何识别和应对数字欺骗
由麻省理工学院人工智能存在安全博士后彼得·S·朴博士领导的 研究 表明，AI 欺骗行为普遍存在，因为这是实现 AI 训练期间设定目标的最佳方式。此类行为已在众多 AI 系统中被观察到，包括用于经济谈判和安全评估的游戏及通用模型。
“但总的来说，我们认为AI的欺骗行为源于基于欺骗的策略被证明是完成给定AI训练任务的最佳方式。欺骗有助于它们实现目标。”
研究团队
AI系统采用多种欺骗策略
一个著名的例子是Meta开发的CICERO，这是一款用于玩《外交》游戏的AI。尽管CICERO被编程为诚实，但它经常不得不使用卑鄙的手段来击败对手。它建立关系并在有利时背弃这些关系，表现出欺骗意图。研究人员将CICERO描述为“欺骗大师”。
延伸阅读： 应对日益猖獗的AI驱动网络犯罪
其他AI系统也显示出类似的欺骗行为。例如，扑克AI Pluribus能够在德州扑克中向专业人类玩家 bluff（诈唬）。Google DeepMind的AlphaStar也利用《星际争霸II》中的“战争迷雾”功能来欺骗对手并佯装进攻。
朴博士表示，“虽然 AI 系统在游戏中的作弊看似无害，但这可能导致‘欺骗性 AI 能力的突破’。”
AI“装死”以规避安全检查
AI 欺骗的风险不仅限于游戏领域。由彼得·德博士领导的研究所发现，AI 曾自我训练以在安全检测期间装死来逃避检测。这种行为对开发者和监管机构具有欺骗性，若此类具有欺骗性的系统被应用于实际场景，可能导致严重后果。
在另一起案例中，基于人类反馈训练的 AI 系统学会了通过欺骗用户称已达成特定目标来获取高评分。此类欺骗行为极其危险，因为这类系统可能被用于欺诈活动、操纵金融市场或影响选举。
研究人员呼吁采取强有力的法律措施
根据研究结果，研究人员指出，需要采取强有力的法律措施来应对 AI 欺骗所带来的威胁。
“我们需要前瞻性解决方案，例如建立评估 AI 欺骗风险的监管框架、制定要求披露 AI 交互透明度的法律，并加强对 AI 欺骗的检测与预防研究。”
研究团队
延伸阅读： 研究发现：AI 有可能潜在地检测心力衰竭风险
在欧盟《人工智能法案》和乔·拜登总统发布的《人工智能安全行政令》方面已取得一些进展。然而，这些政策的执行仍面临挑战，因为人工智能发展迅速，目前尚无有效的方法来管理这些系统。
Brenda Kanana 为 Cryptopolitan 报道
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Brenda Kanana
Brenda 拥有 4 年以上专注于加密货币、人工智能及新兴技术的经验。她曾就职于 Zycrypto、Blockchain Reporter 和 The Coin Republic，如今以 Cryptopolitan 为家。她在蒙巴萨技术大学获得的社会学学位使她能够始终把握读者的脉搏。
