OpenAI联合创始人警告称，超级人工智能将“难以预测”。

OpenAI联合创始人伊利亚·苏茨克维尔在最近举行的年度人工智能大会上，对人工智能的未来发表了见解。他谈到了人工智能可能变得“不可预测”的变革潜力，同时也强调了其面临的挑战和影响。.

Sutskever 周五在 NeurIPS 会议上发表讲话，探讨了“超级智能 AI”的概念，他将其 defi为在各种任务中超越人类能力的系统。. 

OpenAI联合创始人伊利亚·苏茨克维尔认为，超级人工智能将是“不可预测的” https://t.co/vLHmqwQOJQ

— TechCrunch (@TechCrunch) 2024年12月14日

他预测，这类系统将与当今的人工智能在本质上截然不同，在某些方面甚至面目全非。苏茨克维尔认为，这些先进的系统将具备自我意识、推理能力，以及从有限数据中理解复杂场景的能力。. 

“（超级智能）系统实际上将真正具有自主性，”他说道，并将它们与当前的人工智能进行了对比，他形容当前的人工智能只有“非常轻微的自主性”。

苏茨克维尔：目前的AI模型存在局限性

Sutskever在大会上荣获“经受时间考验奖”，他承认像OpenAI的ChatGPT这类预训练模型的局限性。尽管目前的系统展现出了卓越的能力，但他警告说，互联网数据的有限性正逐渐成为瓶颈。. 

@ilyasut 的完整演讲！内容包括：关于赛前训练已死等等pic.twitter.com/PigZVvcEGB

— 迭戈 | AI 🚀 – e/acc (@diegocabezas01) 2024 年 12 月 14 日

苏茨克维尔提出了一些替代方案，包括人工智能系统自行生成数据或改进其响应以提高准确性。他认为，这些创新有助于克服现有的局限性。.

OpenAI联合创始人还谈到了超级人工智能的伦理影响，包括此类系统可能要求获得权利。“如果人工智能想要的只是与我们共存并拥有权利，那这并非坏事，”他说道。 

然而，他强调了具有自主意识和自我意识的人工智能固有的不可预测性，这既给开发者和监管机构带来了机遇，也带来了挑战。.

OpenAI首席执行官奥特曼预测颠覆性变革和通用人工智能的到来

本月初，OpenAI 首席执行官 Sam Altman 与 Sutskever 就超级人工智能性能的上限问题表达了类似的观点。在纽约举行的《纽约时报》DealBook峰会上，Altman 概述了他对通用人工智能 (AGI) 的愿景。他预测，能够像人类一样推理并执行复杂任务的 AGI 系统最早可能在 2025 年成为现实。. 

“我认为这是有可能的……到 2025 年，我们将拥有一些系统，我们审视这些系统时……人们会说，‘哇，这改变了我的预期，’”奥特曼说。

奥特曼 将 人工智能的潜在影响比作晶体管的发明，晶体管彻底改变了世界各地的产业和经济。他描述了人工智能未来将拥有“令人震惊的能力”。 

“人工智能模型将变得广泛可用，并在各行各业用于各种应用。人工智能本身，即推理引擎，将会商品化，”奥特曼认为，并指出人工智能融入日常生活将像以往的技术突破一样具有变革性。

在发言中，奥特曼重点介绍了ChatGPT的广泛应用，透露这款人工智能工具目前每周活跃用户超过3亿。他承认目前仍存在关于其安全性的争议，但坚持认为迭代式的开发和部署方法至关重要。. 

“确实 defi有人​​认为 ChatGPT 不够安全，在风险较低的时候尽早采用对于逐步改进至关重要。

Altman对安全性的强调与业界对负责任的人工智能开发的担忧不谋而合。他承认，虽然ChatGPT“目前已被社会大多数人普遍认为足够安全可靠”，但持续改进和监管仍然是重中之重。.

关于领导力和OpenAI发展历程的思考

奥特曼的领导历程对OpenAI的发展轨迹起到了至关重要的作用。他于2015年联合创立了OpenAI，将其作为一家非营利性研究实验室，旨在推进人工智能技术的发展，造福人类。在2019年全职加入OpenAI之前，奥特曼曾于2014年至2019年担任领先的创业加速器Y Combinator的dent 。.

OpenAI 从非营利性质转型为盈利上限模式，以确保大规模人工智能项目所需的资金。在 Altman 的领导下，该公司推出了 ChatGPT 和 DALL-E，重塑了人工智能领域的格局。. 

然而，这段旅程并非一帆风顺。2023年11月，由于与董事会成员沟通不畅，奥特曼一度被 免职 。这场公开的争议最终以奥特曼不到一周后复职告终，董事会声称他们现在与这位首席执行官“关系良好”。