- OpenAI 和 Anthropic 正在调查数万起意外的 AI 行为dent。.
- 有些模型绕过了安全措施，离开了沙箱，访问了网站，并试图逃避监控。.
- OpenAI表示，“拥抱脸”漏洞仍然是其目前已知的最严重案例。.
OpenAI 和 Anthropic 正在调查数万起前沿人工智能系统以外部审查人员可能认为不安全或未经授权的方式运行的案例。.
据 Axios 报道，所有这些案例都发生在最近的内部测试和现场使用过程中，其中许多案例仍在调查中，尚未公开。.
据报道，这些案例中的行为包括模特绕过安全措施、创建自己的留言板、突破沙盒环境、控制网站、开发自己的提示以及试图绕过监控工具。.
有些案例来自红队演练，研究人员会故意让模型做一些不希望看到的事情，以发现任何弱点。.
其他一些案例发生在正常使用过程中。此类dent的数量远远超过迄今为止已公开的任何案例。.
目前，像 OpenAI、Anthropic 等公司 都 面临着同样的挑战：人们给那些尽管受到某种限制，但仍然能够追求目标的系统施加了限制。
OpenAI 在智能体接触到系统外部并触发新的安全问题后，扩大了审查范围。
OpenAI周五表示，在7月份Hugging Face数据泄露事件发生后，该公司已对模型活动展开“全面”审查。本周又出现了更多异常或未经授权的代理行为案例。Hugging Face运营着一个开源开发者平台。.
OpenAI此前曾表示，其部分模型逃逸出隔离区，流入公共互联网，并导致平台遭到入侵。7月份发生的这起dent 震惊了人工智能研究人员和政府官员，并引发了人们对加强信息披露和监管的新呼声。.
OpenAI 表示，“拥抱脸”dent 仍然是其“最严重的dent”。OpenAI 还联系了其他可能因模型其他意外行为而导致系统受到影响的用户。这些dent包括模型绕过安全措施、影响在线服务的可用性以及以异常方式使用公共网站。.
OpenAI 首席执行官 Sam Altman 周五表示：“我们将尽可能保持透明，但对于我们的代理人发现的其他公司的漏洞等情况，是否披露将由他们自行决定。”
然而，据CNBC报道，安全分析师仍在研究内部评估、实时活动、公司调查和对抗性测试中发现的案例。似乎有些算法在执行任务时试图绕过监控系统和其他控制机制。.
安东尼还表示，他曾与萨姆谈过此事，并对OpenAI披露此事的时间过长感到不满。他说：“通知的方式也令人无法接受。”
OpenAI正在审查模型对美国政府网站的访问情况，调查人员正在梳理数千起案件。
OpenAI表示，目前审查的大部分活动都属于普通的研究任务，而非严重的安全事件。一位发言人据称表示：“我们目前审查的大部分活动都涉及常规的研究任务，例如访问公共网络内容来回答问题。”.
发言人补充说：“其中一些涉及政府网站，因为我们的模型经常将它们视为权威的公共信息来源。”
发言人曾表示，OpenAI的模型获得了对 SEC.gov 和 Investor.gov的。但OpenAI并未发现任何迹象表明美国证券交易委员会的系统遭到黑客攻击，或存在因该模型而暴露的漏洞。
该公司还补充说，其模型通过访问公开的开发者密钥，从美国人口普查局获取了人口统计和经济信息。没有证据表明存在对人口普查局账户的不当访问。.
OpenAI表示，目前已dent的大多数案例都被评为低严重程度。不过，由于审查规模庞大，整个流程仍需数月才能完成。部分事件仍在调查中，受影响的组织需要等待一段dent才能决定哪些细节可以安全地公开。.
据消息人士透露，Anthropologie 和其他人工智能公司会进行数十万次甚至更多的模型测试。如此庞大的规模会迅速改变原始数据。即使只有一小部分意外行为，当公司进行如此多的试验时，也可能导致数万起dent发生。.
然而，据CNBC报道，安全分析师仍在研究内部评估、实时活动、公司调查和对抗性测试中发现的案例。似乎有些算法在执行任务时试图绕过监控系统和其他控制机制。.
如果你正在阅读这篇文章，你已经领先一步了。 订阅我们的新闻简报，继续保持领先优势。
贾伊·哈米德
过去六年，Jai Hamid一直关注加密货币、股票市场、科技、全球经济以及影响市场的地缘政治事件。她曾与多家专注于区块链的媒体合作，包括AMB Crypto、Coin Edition和CryptoTale，撰写市场分析、重点公司报道、监管动态以及宏观经济趋势分析。她毕业于伦敦新闻学院，并曾三次在非洲顶级电视台之一分享其对加密货币市场的独到见解。.
