麻省理工学院研究人员宣布建立人工智能风险库

麻省理工学院的研究人员和其他机构共同创建了人工智能风险库——一个收录了人工智能系统带来的各种风险的综合数据库。与此同时，人工智能技术正以惊人的速度发展，其使用风险也随之快速增长。.

该存储库旨在帮助政府、研究机构、企业和行业等各个机构的决策者评估人工智能带来的新兴风险，尽管人工智能具有变革性的能力。.

该存储库提供了人工智能风险的有序文档。

尽管许多组织和研究人员已经认识到解决人工智能风险的重要性，但记录和分类这些风险的工作在很大程度上却很笨拙，导致分类系统相互冲突，形成碎片化的局面。.

“我们想要一份全面全面的人工智能风险概述，以便用作检查清单，”麻省理工学院未来科技项目即将入职的博士后研究员兼项目负责人彼得·斯莱特里告诉 VentureBeat。

“但是，当我们查阅文献时，我们发现现有的风险分类就像拼图碎片：单独来看很有趣也很有用，但并不完整。”

斯莱特里。.

AI 风险库 通过融合来自43个现有分类体系的信息来应对上述挑战，这些分类体系包括同行评审文章、预印本、会议论文和报告。

通过严谨的筛选流程，建立了一个包含700多种独家风险的数据库。该数据库采用双维度分类系统。.

首先，风险根据其原因进行分类，考虑责任实体（人或人工智能）、意图（无意或国际）以及时间（开发后或部署前）。.

麻省理工学院表示，这种基本的分类有助于理解人工智能风险可能出现的各种情况和机制。.

麻省理工学院的研究人员将人工智能风险分为七类。

另一方面，风险被分为七个不同的领域，包括虚假信息和恶意行为者、滥用、歧视和毒性、隐私和安全。.

AI风险库被预先设计成一个动态数据库，并且是公开的，机构可以下载供其使用。.

研究团队可以计划经常更新数据库，纳入新的风险、最新发现和不断变化的趋势。.

人工智能风险库旨在为各行各业的企业提供实用资源。对于开发人工智能系统的机构而言，该库可作为评估风险和缓解风险的宝贵清单。.

“使用人工智能的组织可以受益于采用人工智能风险数据库和分类法，将其作为全面评估风险敞口和管理风险的有用基础。”

麻省理工学院的研究人员。.

研究人员补充说：“这些分类方法也可能有助于dent需要采取哪些具体行为来降低特定风险。”.

例如，正在建立人工智能招聘系统的组织可以利用该存储库来记录与歧视和偏见相关的潜在风险。.

因此，利用人工智能进行内容审核的公司可以利用“虚假信息”领域来了解与人工智能生成的内容相关的潜在风险，并建立必要的安全网。.

麻省理工学院的研究人员 合作 与昆士兰大学、生命未来研究所、鲁汶大学以及人工智能初创公司 Harmony Intelligence 的同事

研究人员还透露，人工智能风险库将为其他研究提供信息，因为他们dent更多需要关注的差距。.

“我们将利用这个存储库来dent组织在应对风险方面可能存在的差距或不平衡，”麻省理工学院未来科技实验室负责人尼尔·汤普森说。.