人工智能研究人员认为，先进人工智能可能导致人类灭绝的概率为5%。

最近一项针对 2700 名在六大顶级人工智能会议上发表过论文的人工智能 (AI) 研究人员的调查显示，近 58% 的dent者认为人工智能有 5% 的可能性会导致人类灭绝或其他灾难性后果。.

该调查还探讨了人工智能技术里程碑的时间线及其潜在的社会影响。尽管研究人员之间存在不确定性和分歧，但这些发现揭示了人工智能界对超人类人工智能发展可能带来的风险的担忧。.

研究人员对人工智能灭绝风险表示谨慎。

该调查报告的作者之一、加州机器智能研究所的研究员卡佳·格雷斯强调了人们对高级人工智能构成不可忽视的风险这一观点的重要性。格雷斯表示：“大多数人工智能研究人员并不认为高级人工智能毁灭人类的可能性tron，这是一个重要的信号。” 然而，俄亥俄州凯斯西储大学的学者埃米尔·托雷斯认为，目前无需立即感到恐慌。.

托雷斯提醒人们不要对专家调查反应过度，并指出这些 trac在准确预测人工智能发展方面并没有tron的记录。2012年的一项研究发现，人工智能专家的预测并不比公众舆论更可靠。本次调查的作者也指出，人工智能研究人员可能并不具备预测人工智能未来发展轨迹的专业知识。.

加速实现里程碑并提前做出预测

与2022年同一项调查相比，最新调查中许多人工智能研究人员预测，人工智能将比之前预期的更早达到某些里程碑。这些预测与2022年11月ChatGPT等先进人工智能聊天机器人服务的推出以及硅谷类似人工智能模型的快速部署不谋而合。.

研究人员预测，人工智能系统在未来十年内成功完成各种任务的可能性将达到50%甚至更高。这些任务包括创作与泰勒·斯威夫特等流行歌手的作品难分伯仲的歌曲，以及从零开始编写完整的支付处理网站。然而，其他一些复杂的任务，例如在家中安装电线或解决长期存在的matic难题，预计需要更长时间才能完成。.

人工智能在所有任务上超越人类表现的可能性在 2047 年达到 50%，而所有人类工作完全可自动化的可能性在 2116 年达到 50%。与上一年的调查相比，这些估计分别提前了 13 年和 48 年。.

人工智能领域不可预测的突破及其面临的紧迫问题

尽管人们对人工智能的发展寄予厚望，但埃米尔·托雷斯对技术突破的不可预测性表示谨慎。托雷斯指出，人工智能领域此前曾在20世纪70年代和80年代经历过资金和企业兴趣下降的时期，被称为“人工智能寒冬”。.

此外，人工智能研究人员还强调了人工智能面临的一些直接问题，例如滥用人工智能（包括深度伪造）、操纵舆论、研发工程武器、对民众进行威权控制以及加剧经济不平等。托雷斯还强调了人工智能可能助长有关气候变化和民主治理等关键问题的虚假信息传播的潜在危险。.

这项针对人工智能研究人员的调查显示，人工智能界普遍对先进人工智能发展可能带来的风险感到担忧。虽然人工智能导致人类灭绝的确切风险百分比尚不确定，但这种对风险不容忽视的认知凸显了在人工智能发展过程中持续进行伦理和安全考量的必要性。.

尽管人工智能发展里程碑的预测不断加快，但研究人员也承认技术进步的不可预测性，并强调人工智能滥用和社会影响等迫在眉睫的问题。随着人工智能的不断发展，研究人员、政策制定者以及整个社会都必须积极主动、负责任地应对这些挑战。.