欧洲委员会通过首项国际人工智能条约以保护人权

欧洲委员会已通过国际上首个具有法律约束力的人工智能条约。 这项革命性的条约保护人权免受人工智能系统的侵害，维护法治，并促进民主。该决定是在欧洲委员会部长委员会的年度例行会议上达成的，出席的有欧洲委员会46个成员国的外交部长。

首项国际法律约束力文书关于 #AI，确立了全球先例。

发现关于5关键见解 #CoE 框架公约关于 #AI ——一份塑造未来走向的关键文件 #HumanRights, #Democracy, 以及 #RuleOfLaw 在人工智能时代。 @CoE_DigitalGov

——欧洲委员会 (@coe) 5 月 17, 2024

欧洲委员会人工智能监管综合结构

欧洲委员会《人工智能、人权、民主与法治公约框架》呼吁建立一个涵盖人工智能系统生命周期的强大法律框架。考虑到组件阶段设计、实施、启动和移除都将包含在内。该框架并非简单地禁止人工智能系统，而是呼吁谨慎研究此类系统开发和使用的风险。

延伸阅读： 阿姆斯特丹的Antfarm获得20万欧元，利用机器人技术和人工智能革新废物回收

欧洲委员会秘书长玛丽亚·佩伊奇诺维奇强调了该公约的重要性。她表示：“《人工智能框架公约》是一项前所未有的全球条约，将确保人工智能维护人们的权利。这是对国际法律标准的需求的回应，该标准由不同大陆、共享相同价值观的国家支持，旨在利用人工智能的好处并减轻风险。通过这项新条约，我们旨在确保负责任地使用人工智能，尊重人权、法治和民主。”

秘书长玛丽亚 佩伊奇诺维奇

该条约是CAI（46个欧洲委员会成员国）、欧盟和11个非成员国之间的合作成果。列出的国家包括阿根廷、澳大利亚、加拿大、哥斯达黎加、梵蒂冈、以色列、日本、墨西哥、秘鲁、美国、乌拉圭，以及来自私营实体、公民社会和学术界的代表。 

透明度和问责制原则

公约的主要原则之一是实施清晰的控制和监督措施，这些措施将根据特定情况和风险进行调整。要求包括有助于区分人工智能系统生成内容的行动，以及采取的任何相关措施来评估、预防和最小化风险。该条约还旨在促使各国承诺禁止或监管违背人权的AI应用。

该条约强调了问责制的重要性以及对人工智能系统可能产生的任何负面影响的承诺。它规定人工智能系统必须符合人类尊严，包括性别平等、禁止歧视和隐私权。此外，该公约还为与AI实施相关的人权侵犯受害者提供法律补救措施，以及程序性保障措施，如在个人与AI系统互动前通知他们。

保护民主机构的人工智能条约

为确保民主竞争，条约迫使各方制定规则，禁止人工智能系统干扰民主机构和进程。这种对权力分立原则、司法独立性和法律系统可及性的保护是基础。该条约不涵盖国家的国家安全活动，但各方必须使实践与国际法和民主机构保持一致。

相关阅读： 索尼音乐集团警告AI公司勿未经授权使用内容

此外，上述条约通过缔约方会议授权后续机制，以确保其有效实施。每个缔约方必须建立独立的监督机构，负责跟踪公约合规性、提高意识、激发知情辩论，并参与关于人工智能使用的多方利益相关者对话。

框架公约的开幕式将于9月5日在立陶宛维尔纽斯举行，紧随其后的是司法部长会议。这一展示将呈现人工智能监管和治理创新时代的诞生，在这个时代，人权和民主原则不会因前所未有的AI技术而妥协。

Cryptopolitan由Chris Murithi报道。