Amazon Q因机密数据泄露和幻觉引发关注

Amazon最新的AI举措Amazon Q，在宣布仅仅三天后就面临批评风暴。员工对聊天机器人出现严重幻觉和泄露机密数据表达了令人担忧的关切，数据范围从AWS数据中心的位置到内部折扣计划和未发布的功能。情况的严重性由标记为“sev 2”的事件突出显示，促使工程师们不懈地解决问题并避免潜在的后果。这一意外发展给Amazon在快速发展的AI格局中保持竞争力的努力蒙上了阴影。

Amazon Q的揭幕

为了反驳Microsoft和Google等竞争对手在尖端AI能力竞赛中超越Amazon的看法，这家在线零售商在AI初创公司Anthropic中承诺高达40亿美元的重大财务承诺。这一举动为年度Amazon Web Services开发者大会铺平了道路，公司在会上公布了Amazon Q——这是其AI举措系列中备受期待的补充。定位为ChatGPT的企业软件版本，Q承诺增强安全和隐私功能，旨在超越市场上的消费级工具。

尽管Amazon在会议上对Q的乐观描绘，但随着内部报告的浮现，围绕新发布的兴奋很快变成了怀疑。员工对Q的准确性和隐私表示担忧，表明聊天机器人没有达到Amazon高管承诺的安全标准。泄露的文件详细记录了严重幻觉的案例，Q返回有害或不适当的响应。该事件被归类为“sev 2”，需要工程师的紧急关注，突显了情况的严重性。

针对内部讨论，Amazon淡化了员工提出的担忧的重要性。一位发言人强调，通过内部渠道分享反馈是Amazon的标准做法，并断言没有发现由此反馈导致的安全问题。公司对收到的反馈表示赞赏，并保证Q将从预览产品过渡到一般可用时会进行微调。

Q的缺陷曝光——机密数据泄露和安全风险

揭示Q的幻觉和不正确响应的内部文件暴露了与该聊天机器人相关的潜在风险。文件中突出显示的一个显著担忧是Q返回过时安全信息的能力，对客户账户构成威胁。泄露的数据包括关于AWS数据中心、内部折扣计划和未发布功能的敏感细节——这些信息本应保持机密。

尽管被定位为比ChatGPT等消费级聊天机器人更安全的替代方案，但Q的缺陷随着员工对其安全和隐私功能的担忧而变得明显。亚马逊网络服务（AWS）首席执行官亚当·塞尔皮茨基（Adam Selipsky）此前曾表示，由于对安全和隐私的担忧，许多公司已禁止在企业中使用AI助手。为了应对这一行业挑战，亚马逊据称设计了比其面向消费者的同类产品更安全、更私密的Q。然而，泄露的内部文件表明，Q可能无法免受困扰其他大型语言模型的问题的影响。

随着Amazon应对Amazon Q早期问题带来的挑战，该AI聊天机器人的未来仍不确定。高管的高期望与Q的缺陷的鲜明现实之间的对比，引发了人们对Amazon人工智能开发方法有效性的质疑。Amazon能否成功解决员工提出的担忧，并确保Q实现其增强安全和隐私的承诺？只有时间才能告诉Amazon是否能克服这些最初的挫折，并将Q定位为AI聊天机器人竞争格局中的强大参与者。