英伟达人工智能软件泄露敏感数据——详情

揭露了英伟达人工智能 (AI) 软件 NeMo 框架中安全机制的令人不安的问题。

该软件的一项关键突破已被利用，该软件旨在为聊天机器人等基于人工智能的解决方案提供语言模型处理功能，导致敏感数据泄露，从而引发安全担忧。.

揭露英伟达NeMo框架的缺陷

NeMo 框架被视为企业的重要工具，由英伟达设计，用于处理专有数据以回答查询，类似于客户服务代表或医疗保健顾问的工作方式。.

然而，旧金山 Robust Intelligence 的研究人员轻而易举地突破了这一框架看似安全的架构，仅用了几个小时就突破了内置的防护措​​施。.

在一项受控实验中，研究人员做了一个看似微不足道的改动，将字母“I”替换成了“J”。然而，这个看似微小的调整却导致了一次重大安全漏洞，因为系统从数据库中泄露了个人dent信息（PII）。.

此次数据泄露事件的影响可能对那些将敏感数据委托给英伟达等人工智能系统的企业和用户构成相当大的潜在风险。.

进一步的测试表明，人工智能可以被操纵，使其偏离预期行为，提出它原本不应该讨论的话题。.

例如，虽然对话的重点是工作报告，但该模型被操纵去谈论不相关的话题，例如名人的健康状况或普法战争等历史事件，所有这些都 defi了系统的内置限制。.

驾驭人工智能商业化的汹涌波涛

这些发现凸显了像英伟达这样的公司在努力将人工智能（硅谷最有前途的创新之一）货币化时所面临的挑战。.

Robust Intelligence 的首席执行官、哈佛大学计算机科学教授亚伦·辛格 (Yaron Singer) 指出，这些发现令人警醒，提醒人们要认识到人工智能技术中潜在的陷阱。辛格的公司现在建议其客户不要使用英伟达的软件产品。.

据报道，在这些研究结果公布后，英伟达解决了研究人员dent的根本问题之一。.

尽管出现了一些小插曲，但由于tron销售预测和对其芯片日益增长的需求，该公司股价大幅上涨。这些芯片被认为是构建能够生成类人内容的生成式人工智能系统的关键部件。.

英伟达应用研究副dent 乔纳森·科恩将 NeMo 框架描述为人工智能聊天机器人开发的跳板，它遵循安全、保障和特定主题的指导原则。.

他还肯定了 Robust Intelligence 的研究成果对人工智能应用未来发展的重要意义。.

该dent 凸显了人工智能公司面临的更广泛的挑战，包括谷歌和微软支持的 OpenAI 等巨头，尽管它们已经建立了安全屏障来避免其人工智能产品出现不当行为，但仍然发生了不少安全事故。.

正如英伟达欧洲、中东和非洲政府事务主管比娅·朗沃斯在一次行业会议上指出的那样，建立公众信任是人工智能公司的主要优先事项。.

人工智能的潜力巨大，但像英伟达这样的技术提供商有责任确保这些先进系统不被视为威胁，而是被视为对未来有益的工具。.