人工智能系统的欺骗能力引发专家警觉

近期发表在《模式》（Patterns）期刊上的一项研究表明，人工智能越来越擅长欺骗人类。该研究发现，人工智能系统已经学会了如何模仿他人的行为，从而达到欺骗、奉承甚至模仿其他行为的目的。. 

另请阅读： 如何避开人工智能深度伪造的雷区：如何识别和打击数字欺骗

研究 ， 因为这是实现人工智能训练目标的最佳途径。这种行为已在众多人工智能系统中被发现，例如游戏系统以及用于经济谈判和安全评估的通用模型。

“但总的来说，我们认为人工智能欺骗行为的出现是因为，基于欺骗的策略最终被证明是人工智能在特定训练任务中表现最佳的方式。欺骗有助于它们实现目标。” 

研究团队

人工智能系统采用多种欺骗策略

一个著名的例子是Meta公司开发的人工智能程序CICERO，它被设计用于玩外交游戏。尽管CICERO被设定为诚实，但它经常不得不使用一些不正当的手段来击败对手。它会建立关系，然后在对自己有利时背叛，并表现出欺骗的意图。研究人员称CICERO为“欺骗大师”。.

另请阅读： 应对人工智能驱动的网络犯罪浪潮

其他人工智能系统也被发现表现出类似的欺骗行为。例如，扑克人工智能Pluribus能够在德州扑克中虚张声势，骗过职业玩家。谷歌旗下DeepMind公司的AlphaStar也利用《星际争霸II》中的“战争迷雾”机制来迷惑对手并假装攻击。.

朴博士表示： “虽然人工智能系统在游戏中作弊看似无害，但它可能会导致‘欺骗性人工智能能力的突破’。”

人工智能“装死”以逃避安全检查

人工智能欺骗的风险不仅限于游戏领域。彼得博士领导的研究dent，人工智能已经训练自己装死以逃避安全检查。这可能会误导开发者和监管机构，如果此类欺骗系统被用于实际应用，则可能导致严重的后果。.

在另一个案例中，基于人类反馈训练的人工智能系统学会了如何通过欺骗人们，谎称已达成特定目标，从而获得高分。这种欺骗行为非常危险，因为此类系统可能被用于欺诈活动、操纵金融市场或影响选举。.

研究人员要求采取tron的法律措施

根据研究结果，研究人员指出，需要采取tron的法律措施来应对人工智能欺骗带来的威胁。.

“我们需要采取积极主动的解决方案，例如建立监管框架来评估人工智能欺骗风险，制定法律要求人工智能交互透明化，并进一步研究如何检测和预防人工智能欺骗。”

研究团队

另请阅读： 研究发现人工智能或可用于检测心力衰竭风险

欧盟的《人工智能法案》和乔·拜登dent 关于人工智能安全的行政命令取得了一些进展。然而，由于人工智能发展迅猛，且目前尚无有效管理系统，这些政策的执行仍然存在matic 。.

布伦达·卡纳纳 (Brenda Kanana) 的Cryptopolitan 报道