OpenAI联合创始人警告超级智能AI将是“不可预测的”

OpenAI联合创始人Ilya Sutskever在最近的一次年度AI会议上就人工智能的未来提供了见解。他谈到了AI转变为“不可预测”的变革潜力，同时强调了其挑战和影响。

Sutskever周五在NeurIPS会议上发言，探讨了“超级智能AI”的概念，他将其定义为在广泛任务中超越人类能力的系统。 

OpenAI联合创始人Ilya Sutskever认为超级智能AI将是“不可预测的” https://t.co/vLHmqwQOJQ

— TechCrunch (@TechCrunch) 12月 14, 2024

他预测，这样的系统将不同于今天的AI，在某些方面甚至无法辨认。根据Sutskever的说法，这些先进的系统将拥有自我意识、推理水平以及从有限数据中理解复杂场景的能力。 

“[超级智能]系统实际上将以真正的方式具有代理性，”他说，将它们与当前仅“非常轻微地具有代理性”的AI进行对比。

Sutskever：当前AI模型存在局限性

在会议上获得“时间考验”奖，Sutskever承认了像OpenAI的ChatGPT中使用的预训练模型的局限性。虽然当前系统展示了非凡的能力，但他警告说，互联网数据的有限性正成为瓶颈。 

完整 @ilyasut 谈话！关于预训练已死以及更多 pic.twitter.com/PigZVvcEGB

— Diego | AI 🚀 – e/acc (@diegocabezas01) 2024年12月14日

Sutskever提出了替代方法，包括AI系统生成自己的数据或优化其响应以提高准确性。他建议，这些创新可能有助于克服现有的局限性。

OpenAI联合创始人还谈到了超级智能AI的道德影响，包括此类系统可能要求权利的可能性。“如果你拥有AI，而它们只想与我们共存并仅仅要求权利，这并不是一个坏的结果，,” 他评论道。 

然而，他强调代理性和自我意识AI固有的不可预测性，为开发者和监管者带来了机遇和挑战。

OpenAI CEO Altman预测颠覆和AGI的到来

本月早些时候，OpenAI CEO Sam Altman与Sutskever分享了类似的观点，关于超级智能AI表现的天花板。在纽约市举行的纽约时报DealBook峰会上，Altman概述了他对通用人工智能（AGI）的愿景。他预测，AGI——能够以类似人类的推理执行复杂任务的AI系统——可能在2025年成为现实。 

“我认为这是可能的……在2025年，我们将拥有我们看待……的系统，人们会说，‘哇，这改变了我预期的，’” Altman说。

Altman 相比 AI对晶体管发明的潜在影响，晶体管彻底改变了全球各行各业和经济。他描述了一个未来，这将是“令人震惊地强大”。 

“AI模型变得广泛可用，并用于各行各业的 various 应用。“AI本身，推理引擎，将成为商品化，” Altman认为，建议其融入日常生活将像过去的技术突破一样具有变革性。

在他的演讲中，Altman强调了ChatGPT的广泛采用，透露该AI工具现在每周拥有超过3亿用户。他承认关于其安全性的持续争论，但坚持认为迭代开发和部署方法至关重要。 

“确实有些人认为ChatGPT不够安全，”他说，但指出OpenAI认为在风险较低时早期采用对于逐步改进至关重要。

Altman对安全的强调呼应了行业对负责任AI开发的担忧。他承认，虽然ChatGPT“现在被社会大多数人认为是可以接受的安全和稳健的”，但持续的改进和监督仍然是优先事项。

对领导力和OpenAI演变的反思

Altman的领导历程在塑造OpenAI的轨迹中发挥了关键作用。他于2015年联合创立该组织作为非营利研究实验室，旨在推进AI技术以造福人类。在2019年全职加入OpenAI之前，Altman于2014年至2019年担任领先的初创公司加速器Y Combinator的总裁。

OpenAI从其非营利起源过渡到封顶利润模式，以获取大规模AI项目所需的资金。在Altman的领导下，该公司推出了ChatGPT和DALL-E，重塑了AI格局。 

然而，这一旅程并非没有挑战。2023年11月，Altman曾短暂 被解雇 ，原因是OpenAI董事会对其与董事会成员的沟通表示担忧。这场公开进行的纠纷在不到一周后以Altman的复职告终，董事会声称他们现在与CEO“关系良好”。