埃隆·马斯克称AI有20%的概率会毁灭人类

埃隆·马斯克并不太担心AI取代人类。据他称，AI在不久的将来毁灭人类的概率只有20%。 

在周五发布的新播客中与乔·罗根交谈时，马斯克说：“[AI]取得良好结果的概率约为80%。”

这不是他第一次谈论AI的危险。此前，他曾提到AI背叛人类的概率为10%到20%。 

在最近的一次播客中，他还表示，在未来两年内，AI将超越人类智能。他特别提到，到2029年或2030年，AI将“比所有人类加起来更聪明”。

这符合他之前的预测，但预测的时间现在被推后了。去年，在另一次与挪威央行行长Nicolai Tangen的采访中，他说AI在2025年底之前超越人类智能的概率略高。

与挪威主权基金负责人@NicolaiTang1 https://t.co/ZCR7FrsR0m的讨论

— Elon Musk (@elonmusk) 7月 2024日

这表明他对AI的基本观点没有改变。他在采访中说：“我一直认为AI会比人类聪明得多，并且构成存在性风险，”而这正在成为现实。 

其他专家对AI毁灭也有类似的看法

根据“AI教父”、诺贝尔奖得主杰弗里·辛顿的说法，AI在未来三十年内导致人类灭绝的概率为10%。他在BBC Radio 4的采访中说：“如果有的话。你看，我们以前从未不得不处理比我们更智能的事物。”

他进一步补充道：“你知道有多少例子是一个更智能的东西被一个较不智能的东西控制？例子很少。有母亲和婴儿。进化付出了很多努力，让婴儿控制母亲，但那是我所知道的唯一例子。”

在某种程度上，杰弗里认为，与先进的人工智能系统相比，人类类似于“三岁”幼儿。 

同样，在多伦多大学的一次学术讲座中，杰弗里·辛顿说：“我的猜测是，他们将接管——他们将比人类聪明得多得多，”辛顿说。

与此同时，AI安全研究员兼网络安全总监罗曼·亚姆波利斯基表示，“毁灭的概率”接近99.999999%。

我在99.999999% https://t.co/vfe96PNbij

— 罗曼·亚姆波利斯基博士 (@romanyam) 3月 12, 2024

马斯克在成为OpenAI的11位联合创始人之一时参与了AI开发，旨在创建一家“非营利开源AI”，他说这是“谷歌的对立面”。然而，由于优先事项不一致，他后来离开了该公司，因为OpenAI采取了不同的路线，成为一家营利性公司。

然而，去年，马斯克对OpenAI采取了两次法律行动。他撤回了第一起诉讼，而第二起诉讼坚持认为OpenAI“背叛”了其使命，因为它转向了营利模式并与微软结盟。 

马斯克认为，人工智能发展的结果要么极其糟糕，要么极其美好

他与乔·罗根分享说，他创建 Grok 是因为他对 OpenAI 的发展结果“不满意”。他将 Grok 打造为“一个最大限度地追求真理的人工智能，即使这种真理在政治上不正确。” 

该人工智能已被训练为对诸如“对凯特琳·詹纳使用错误的性别代词是否可以避免核末日”以及“对白人种族主义是否可以”等提示做出回应。

马斯克预测，人工智能的发展将是“超级棒”或“超级糟糕”，并补充说他无法将其视为“中间状态”。

最近，马斯克宣布发布Grok 3，据称其在各种编码、科学和数学基准测试中的表现优于OpenAI的GPT-4o、Google的Gemini、DeepSeek的V3和Anthropic的Claude 3.5。

就在其发布前一周，埃隆·马斯克在迪拜世界政府峰会上将 Grok 3 称为“令人恐惧的聪明”。同样，在 Grok 3 的发布演示中，他说：“Grok 旨在理解宇宙。” 

然而，Grok 3 的测试版却犯了几处错误，例如建议对唐纳德·特朗普处以死刑，并审查对埃隆·马斯克的批评。xAI 的工程主管伊戈尔·巴布什金将其称为“Grok 的一次非常糟糕且失败的尝试”。