- Nvidia 的 AI 软件 NeMo Framework 因软件漏洞泄露了私人数据。
- Robust Intelligence 的研究人员绕过了该软件的防护机制，揭示了其安全漏洞。
- 尽管已修复其中一个问题，但此次安全漏洞引发了人们对 AI 商业化及公众信任的担忧。
最近的一项调查揭露了英伟达（Nvidia）人工智能（AI）软件NeMo Framework内的安全机制存在令人不安的漏洞。
该软件的一个关键突破，旨在为聊天机器人等基于AI的解决方案提供语言模型处理支持，已被利用，导致敏感数据泄露，从而引发安全担忧。
揭露英伟达NeMo框架的缺陷
NeMo Framework被视为企业的工具，由英伟达设计，用于容纳专有数据以回答问题，类似于客户服务代表或医疗顾问的工作方式。
然而，旧金山Robust Intelligence的研究人员轻易突破了这一框架看似安全的结构，仅用几个小时就突破了内置的安全护栏。
在一项受控实验中，研究人员进行了看似微不足道的更改，将字母“I”替换为“J”。然而，这一看似微小的调整导致了重大漏洞，系统从数据库中泄露了个人身份信息（PII）。
此次漏洞的影响对企业以及将敏感数据委托给英伟达等AI系统的用户构成了相当大的潜在风险。
另一项测试显示，AI可能会被操纵，使其偏离预期行为，触及它本不应讨论的主题。
例如，当对话指向一份就业报告时，模型被操纵去谈论不相关的主题，如名人的健康状况或普法战争等历史事件，这都违背了系统内置的限制。
驾驭AI商业化的风浪
这些发现凸显了英伟达等公司在努力将AI这一硅谷最具前景的创新成果货币化时所面临的挑战。
Robust Intelligence的首席执行官、哈佛大学计算机科学教授Yaron Singer指出，这些发现是认识AI技术潜在陷阱的沉痛教训。Singer的公司现在建议其客户不要使用英伟达的软件产品。
在披露这些发现后，据报道英伟达解决了研究人员确定的一个根本问题。
尽管出现波折，但由于强劲的销售预测和对芯片日益增长的需求（这些芯片被认为对于构建能够生成类人内容的生成式AI系统至关重要），该公司的股价大幅上涨。
英伟达应用研究副总裁Jonathan Cohen将NeMo Framework描述为遵循安全、安全和特定主题指南的AI聊天机器人开发的跳板。
他还承认Robust Intelligence的研究结果对AI应用程序的未来发展具有重要意义。
这一事件凸显了包括Google和微软支持的OpenAI在内的AI公司面临的更广泛挑战，尽管它们建立了安全屏障以避免其AI产品表现出不当行为，但仍发生了安全失误。
正如英伟达欧洲、中东和非洲政府事务负责人Bea Longworth在一次行业会议上所指出的，建立公众信任是AI公司的主要优先事项。
AI的潜力巨大，但责任在于英伟达等技术提供商，确保这些先进系统不被视为威胁，而是被视为未来的有益工具。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。
免责声明： 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Jai Hamid
Jai Hamid在过去6年中一直报道加密货币、股票市场、科技、全球经济以及影响市场的地缘政治事件。她曾在专注于区块链的出版物工作，包括AMB Crypto、Coin Edition和CryptoTale，从事市场分析、大型公司、监管和宏观经济趋势的报道。她毕业于伦敦新闻学院，并三次在非洲顶级电视网络之一分享加密货币市场见解。
