专家在人工智能峰会召开前发布的一份报告中指出，先进人工智能可能带来全新的极端风险。

最近发布的一份关于先进人工智能安全性的国际科学报告显示，先进人工智能可能会带来灾难性后果，给人类留下痛苦和折磨。.

据美联社报道，这是第一份此类国际报告，于周三发布，正值 2 月份在巴黎举行的 AI 峰会之前，该报告列举了这项快速发展的技术所带来的危险。.

各国支持《国际科学报告》

该报告详细列举了先进人工智能可能带来的一些危险，包括助长恐怖主义和造成大规模失业。尤其是在科技行业，由于人工智能的应用，企业实现自动化，导致数千个工作岗位消失，这种情况已经显现。.

据 美联社报道，这份报告得到了包括美国和中国在内的30个国家的支持，这在世界两大经济体中实属罕见。中美两国一直在人工智能领域争夺霸主地位，竞争激烈。本周，中国初创公司DeepSeek凭借其低成本聊天机器人震惊世界，尽管美国对中国实施了严格的出口管制。

著名人工智能科学家 Yoshua Bengio 领导了这项研究，该研究融合了现有的研究成果，旨在指导有关部门为这项快速发展的技术制定监管措施。.

报告指出，“风险很高”，并提到几年前人工智能系统几乎无法生成连贯的段落。然而，随着近期的发展，人工智能现在不仅可以生成逼真的图像，编写计算机程序，还能与用户进行长时间的对话。.

研究人员表示，先进人工智能的危险性已经开始逐渐显现，例如错误信息和虚假信息、深度伪造、诈骗和偏见。.

“我们需要更好地了解我们正在构建的系统以及随之而来的风险，以便我们将来能够做出更好的决策。”

本吉奥。.

报告指出，“随着通用人工智能能力的不断增强，其他风险的迹象也逐渐显现”。.

就在同一周， 梵蒂冈 背后的团队共同对这项技术发出警告 “末日时钟”。该报告重点关注通用人工智能，例如OpenAI的ChatGPT模型。

该报告对高级人工智能风险进行了分类。

这份国际科学报告将风险分为三类：恶意使用、故障以及广泛的“系统性”风险。研究人员考察了人工智能学习使用化学或生物武器的难易程度，这些武器会对人类构成巨大威胁。.

此外，该报告指出，通用人工智能也可能改变就业市场，取代一些员工，尽管其他研究人员也认为，人工智能创造的就业机会可能比取代的就业机会更多。.

该 报告 还表达了对人工智能系统失控的担忧，原因可能有二：一是人工智能系统削弱了人类的监督，二是人类的注意力不够集中。

本吉奥透露，参与撰写这份报告的100位专家对人工智能的未来发展方向并非总能达成一致。其中一个分歧在于人工智能何时才能在不同任务上超越人类的能力。.

“他们对各种方案也存在分歧，”本吉奥说。.

“当然，没有人能预知未来。有些情况非常有利，有些则令人恐惧。我认为，政策制定者和公众认真评估这种不确定性非常重要。”

本吉奥。.

这份报告得到了多个国家的支持，也得到了欧盟的支持。与此同时，世界各国领导人、科技领袖、专家以及民间社会代表预计将再次齐聚巴黎人工智能行动峰会。各国将签署一份关于人工智能发展的“共同宣言”。.