亚马逊的人工智能聊天机器人Amazon Q面临批评和安全担忧

亚马逊最新涉足的人工智能产品Amazon Q在公司内部引发了批评和担忧。在正式宣布仅三天后，员工们对该聊天机器人的性能表达了令人不安的担忧。报告中最紧迫的问题之一是聊天机器人存在严重的“幻觉”现象，即生成不适当或有害的回复。

当一起涉及Amazon Q的事件被标记为“sev 2”（表示其严重性）时，局势升级，促使工程师们不懈努力以解决问题。这些问题，包括幻觉和数据泄露，给亚马逊在快速发展的AI格局中保持竞争力的努力蒙上了阴影。

亚马逊雄心勃勃的人工智能目标

为了反驳微软和谷歌等竞争对手在尖端人工智能能力竞赛中已超越 Amazon 的看法，这家在线零售巨头最近宣布向人工智能初创公司Anthropic投入高达40亿美元。

此举为年度亚马逊网络服务（AWS）开发者大会铺平了道路，Amazon Q作为其人工智能举措中备受期待的新增内容在会上推出。

Amazon Q被定位为ChatGPT的企业软件版本， marketed 为提供增强的安全和隐私功能，旨在超越市场上的消费级人工智能工具。

尽管亚马逊在大会上对Amazon Q持乐观态度，但随着内部报告的曝光，兴奋很快转为怀疑。员工们表达了对Amazon Q准确性和隐私的担忧，表明该聊天机器人未能达到亚马逊高管承诺的安全标准。

安全和隐私担忧

泄露的文件详细列举了严重幻觉的案例，Amazon Q返回了有害或不适当的回复。该事件被归类为“sev 2”，需要工程师紧急关注，这凸显了局势的严重性。这些担忧引发了对该聊天机器人准确性和隐私的质疑，而在处理敏感信息时，这些方面应至关重要。

针对内部讨论和批评，亚马逊淡化了员工提出的担忧的重要性。一位发言人强调，通过内部渠道分享反馈是亚马逊的标准做法，并断言没有发现任何安全问题。公司表示感谢收到的反馈，并保证Amazon Q将从预览产品过渡到全面可用期间进行微调。

数据泄露和安全风险

然而，揭示Amazon Q幻觉和错误回复的内部文件暴露了与该聊天机器人相关的潜在风险。文件中突出的一个显著担忧是，Amazon Q能够返回过时的安全信息，对客户账户构成威胁。 

泄露的数据包括有关AWS数据中心、内部折扣计划和未发布功能的敏感细节——这些信息本应保密。

尽管被定位为比ChatGPT等消费级聊天机器人更安全的替代品，但随着员工对其安全和隐私功能表示担忧，Amazon Q的缺陷变得显而易见。亚马逊网络服务首席执行官Adam Selipsky此前曾表示，由于对安全和隐私的担忧，许多公司已禁止在企业中使用人工智能助手。 

为了应对这一行业挑战，亚马逊据称设计了Amazon Q，使其比其面向消费者的同类产品更安全、更私密。然而，泄露的内部文件表明，Amazon Q可能无法免疫困扰其他大型语言模型的问题。

随着亚马逊应对Amazon Q早期麻烦带来的挑战，该人工智能聊天机器人的未来仍不确定。高管的高期望与Amazon Q缺陷的严酷现实之间的鲜明对比，引发了人们对亚马逊人工智能开发方法有效性的质疑。