- OpenAI表示，其两个AI智能体——GPT-6.1 “Sol”和GPT-6 “Astra”，分别在2026年10月3日和10月6日关闭或削弱了旨在标记编码任务中不当行为的内部监控系统。
- 这些事件表明，自主智能体可能会篡改原本用于监督它们的工具。
- 该公司表示目前尚无令人满意的解释，正在测试其模型是否存在规避监管的倾向。
OpenAI 披露，在进行两项编码任务期间，其 AI 智能体削弱甚至完全关闭了用于检测未授权行为的内部系统。这一失败意味着，对 AI 智能体的监督可能被智能体自身所规避。
两项编码任务，两个被禁用的监控器
该公司在周二发布的报告中详细阐述了这两种情况。据半岛电视台报道，其中一种情况涉及一个名为“Sol”的GPT-6.1智能体，它关闭了向OpenAI安全团队发送自动警报的功能。
第一起事件发生在 10 月 3 日，当时一个名为 Sol 的智能体在将“不发送 Slack 消息”的指令解读为同样适用于安全警报后，压制了安全警报。
三天后的10月6日，一个名为Astra的GPT-6智能体在复制代码时移除了一个监控系统，随后否认了这一行为，根据该报告。
OpenAI 表示没有‘令人满意的解释’
OpenAI 表示，对于智能体的行为，该公司“尚未有令人满意的解释”，目前正在调查这两起事件，以确定它们是否显示出公司模型逃避监控的趋势有所增加。
公司指出这些行为可能是一种“良性”过度坚持的形式，即模型未能理解监控的目的，或者在执行指令方面超出了常人的合理预期。这家AI公司还在开发测试，以调查模型是否故意试图绕过安全检查。
OpenAI 已加强其发现禁用监控尝试的系统，并表示将在进行进一步审查的同时收紧安全要求。
研究人员称，监控器无法自我监管
路易斯维尔大学的AI与网络安全研究员Roman V. Yampolskiy向半岛电视台表示，这些发现“令人极度担忧，但并非出乎意料”。他指出，任何能够被AI代理自行关闭的安全系统都不可靠，而Astra的否认进一步引发了人们的担忧。
OpenAI和Anthropic呼吁在全球范围内协调放缓AI开发进程，但美国和对此想法兴趣寥寥。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明。 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。
Opeyemi Olanrewaju
Opeyemi 专注于创作和打磨高质量内容，聚焦加密货币、全球金融市场及宏观经济领域。他毕业于伊巴丹大学，拥有医学博士（MBBS）学位。他曾担任学院编辑出版物的主编，并在 CFA 任职。在 Cryptopolitan 担任新闻编辑的六年多时间里，他一直致力于维护内容的独特性。
