- 白宫现希望在对公众发布之前审查AI模型。
- 据报道，该政府正在考虑发布一项行政命令，成立一个AI工作组来监督AI监管程序。
- 监管机构担心AI系统现在能够发现操作系统和Web浏览器中的大量漏洞。
白宫正在考虑一项计划，在将一些最强大的人工智能系统发布给公众之前对其进行审查。
该提案最初由 《纽约时报》 于5月4日 报道，将在AI生命周期的关键时刻引入联邦审查，即在部署之前。官员们越来越担心，前沿模型现在能够识别并利用支撑关键基础设施的软件中的弱点。
The Conversation 发表的分析 指出 越来越多的证据表明，最近的AI系统可以发现操作系统和Web浏览器中的大量漏洞。这种能力虽然对防御性安全有价值，但如果这些工具被滥用或落入错误之手，也会提高风险。
模型能力促使政策重新思考
在Anthropic选择推迟其最新模型 Mythos 的广泛发布后，政策讨论变得更加紧迫。内部测试揭示了先进的网络安全能力，包括识别大量可利用缺陷的能力。作为回应，该公司通过其“Project Glasswing”倡议限制了对负责关键基础设施的有限组织群体的访问。
根据 The Conversation，当Anthropic探索扩大访问权限时，白宫介入，表明在更广泛的技术政策仍相对由市场驱动的情况下，对AI监管采取了更直接的方法。
担忧不仅限于单一公司或系统。英国AI安全研究所 报告 称，在4月的评估中，OpenAI GPT-5.5在高级网络安全任务中表现出相当的性能。
在该研究所突出显示的一个测试中，该模型逆向工程了一个自定义虚拟机，并在几分钟内解决了一个复杂的挑战，速度远快于使用专业工具的人类专家。
“一个关键问题是这是否反映了特定于一个模型的突破，还是更广泛趋势的一部分，”研究所在其报告中写道。“GPT-5.5早期检查点的结果表明后者。”
综合来看，这些发现表明这些能力正在成为领先AI系统的常见特征，而不是孤立的突破。
AI安全问题具有地缘政治维度
其影响超出了技术范畴，涉及国家安全。The Conversation 引用的研究人员警告称，与国家有关的团体可能使用类似工具进行网络行动，可能针对基础设施或经济系统。
这种转变的早期迹象已经出现。Anthropic报告称，涉嫌国家支持的行动者在其模型中用于影响数十个组织的间谍活动。与此同时，微软和OpenAI在2024年表示，政府附属团体正在利用AI增强网络攻击。
同时，研究人员仍在努力如何可靠地控制这些系统。The Conversation 引用的研究表明，训练后应用的安全过滤器可能被绕过，而某些模型可能看似合规，但并未完全消除风险能力。
这导致政策制定者中越来越认为，安全措施可能需要嵌入在模型开发过程中，而不是事后添加。
政策前景：框架碎片化，压力上升
美国的提案正在更广泛、仍在演变的全球监管格局中成形：
- 欧盟《人工智能法案》设定了一个基于风险的框架，对高风险应用有严格要求，尽管它不要求对前沿模型进行集中批准。
- 英国倾向于通过英国AI安全研究所进行自愿合作，专注于与开发者的测试和评估伙伴关系。
- 新兴的美国方法似乎正朝着对最先进系统进行直接监管的方向发展，可能通过发布前审查。
立法者已经开始更仔细地检查这些问题，4月举行了关于AI安全和治理的国会听证会，尽管尚未通过全面的立法。
如果实施，美国的发布前审查系统将代表向早期干预的转变，将监管放在可以预见风险而不是风险显现之后的阶段。
此举可能设定非正式的全球标准，特别是考虑到领先的AI开发商集中在美国。同时，它引发了公司可能将部分开发或部署转移到限制较少的地区的可能性。
政策制定者面临的挑战是在创新能力快速进步且滥用后果可能深远的领域中，平衡创新与风险管理。
目前，最具体的保障措施仍然是自愿的。Anthropic等公司正在限制对敏感系统的访问，而英国AI安全研究所等组织继续运行独立评估。
美国是否会正式化其方法——以及其他国家是否会与其保持一致——将是塑造未来几年AI治理的关键因素。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
免责声明。 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。
Ibiam Wayas
Ibiam Wayas自2019年起一直负责加密货币新闻报道。他在尼日利亚国家开放大学攻读计算机科学专业。他的作品曾刊登于多个加密货币新闻平台，包括Coinfomania、Crypto News Australia和AltcoinBuzz。凭借其在计算机科学领域的背景，他目前专注于加密货币、机器人技术和长寿领域的新闻。
