AI法案——在放松监管的灰色地带中航行

在周五晚些时候，欧盟机构在激烈的三方谈判后，就备受期待的AI法案达成了临时协议。然而，在这一重大进展的庆祝声中，人们担心潜在的漏洞可能会将这一监管里程碑变成放松监管的伪装。

旨在为人工智能负责任开发和使用的AI法案，预计将在创新和社会保护之间取得平衡。然而，协议的复杂性，特别是来自最后一刻谈判的复杂性，引发了人们对看似全面的立法背后真实意图的质疑。

AI法案的关键组成部分

最初由欧盟委员会提出的基于风险的核心原则保持不变。对健康、安全、基本权利、环境、民主和法治构成威胁的“高风险”AI系统需满足特定要求。但是，过滤条件的增加引发了对可能豁免某些高风险应用的潜在漏洞的担忧。

AI法案禁止造成不可接受风险的AI系统，包括操纵人类行为、利用脆弱性以及进行无目标面部图像抓取的系统。虽然禁令是全面的，但出于安全原因（如工作场所的情绪识别）的例外情况引入了模糊性和潜在漏洞。

引入了对基础模型（特别是具有系统性风险的“高影响力”模型）的透明度义务。更严格的规则要求模型评估、系统性风险评估、对抗性测试、网络安全措施以及事件报告。然而，在建立统一的欧盟标准之前依赖行为准则，可能会在合规性方面造成不确定性。

基本权利影响评估（FRIA）的纳入解决了人们对歧视性国家监控和执法中AI的担忧。然而，对执法机构的豁免引发了人们对FRIA在防止高风险AI工具有害部署方面的有效性的质疑。

违反AI法案将面临3500万欧元或全球年营业额7%的罚款，对于较轻的违规行为，罚款为750万欧元或营业额的1.5%。虽然罚款旨在强制执行合规性，但人们担心可能会通过“成比例上限”来规避，这有利于大公司，并鼓励他们将高风险AI项目外包给初创企业。

AI办公室和董事会的建立形成了治理结构。委员会内的办公室负责监督先进AI模型，而由成员国代表组成的董事会则作为协调平台。社会利益相关者作为技术专家的有限参与可能会削弱民间社会在塑造AI监管方面的声音。

AI法案中未探索的差距和担忧

尽管蒂埃里·布雷顿（Thierry Breton）和其他关键人物断言对创新与保护之间的平衡充满信心，但人们对AI法案中潜在漏洞的担忧依然存在。在周五深夜的新闻发布会上，官员们承认，过滤条件和例外情况可能使高风险应用逃脱审查。对生物识别系统的禁令以及在紧急情况下部署高风险AI工具等问题，引发了人们对法律有效性的怀疑。

蒂埃里·布雷顿（Thierry Breton）断言，AI法案不仅仅是一本规则书，而是欧盟初创企业和研究人员在全球AI竞赛中发挥主导作用的平台，这暗示了建立欧盟作为人工智能领域重要力量的内在雄心。批评者认为，这反映了一种放松监管的方法，优先考虑支持和发展欧盟境内的AI公司，而非严格的监管。

随着AI法案越来越接近成为现实，围绕其有效性和潜在漏洞的争论日益激烈。该立法是否真的能在促进创新和保护社会之间取得平衡，还是只是一种精心伪装的放松监管策略？未来几个月将揭示AI法案对欧盟乃至全球AI格局的真正影响。