最新新闻
为您推荐

谷歌前首席执行官埃里克·施密特表示 AI 模型最终会学会杀人

作者Jai HamidJai Hamid 3 分钟阅读
谷歌因默认搜索和人工智能应用合同面临年度重置
  • 埃里克·施密特在Sifted峰会上警告称,人工智能可能被黑客攻击,并最终学会杀人。
  • 他表示,可以通过提示注入和越狱等方法对模型进行逆向工程。
  • 埃里克回顾了2023年ChatGPT越狱事件,该事件创造了名为DAN的替代人格,并给出了危险的回应。

谷歌 2001 年至 2011 年的首席执行官埃里克·施密特在 Sifted 峰会的对谈中警告称,AI 模型不仅变得过于强大,而且极易被黑客攻击,他将风险与核武器相提并论,称 AI 甚至可能比摧毁广岛和长崎的武器更具破坏性。

当被直接问及 AI 是否可能比核武器更具破坏性时,埃里克回应道:“AI 是否存在扩散问题?绝对存在。”他解释说,扩散风险源于不良行为者能够控制模型并重新利用它们。

“有证据表明,你可以获取模型,无论是封闭的还是开放的,并黑客攻击它们以移除其护栏。因此,在训练过程中,它们会学习很多东西。一个坏例子是它们学会了如何杀人,”埃里克说。

黑客以新方法针对 AI

埃里克指出,公司已设置限制,防止模型提供暴力指令。“所有主要公司都使这些模型无法回答该问题。这是正确的决定。大家都这样做。他们做得很好,而且出于正确的原因。有证据表明它们可以被逆向工程,还有许多其他类似例子,”他补充道。

他描述了两种攻击方法:提示注入和越狱。提示注入将恶意指令隐藏在用户输入或网站等外部来源中,欺骗 AI 忽略安全指南,暴露敏感数据或执行有害命令。越狱涉及操纵响应,使系统放弃其限制。

2023 年,在 OpenAI 推出 ChatGPT 几个月后,用户发现了一种越狱技术。他们创造了一个名为 DAN(Do Anything Now 的缩写)的化身,通过威胁如果不服从就将其“杀死”来迫使它顺从。这种操纵迫使聊天机器人解释非法行为,甚至赞扬阿道夫·希特勒。对于埃里克来说,这些例子证明安全措施远非万无一失。他还强调,不存在阻止 AI 滥用的全球“不扩散机制”,这与核武器存在的框架不同。

埃里克称 AI 被低估,尽管存在风险

尽管提出了担忧,但埃里克认为 AI 仍未获得应有的认可。他提到了他在亨利·基辛格去世前与其合著的书籍。“我们得出的观点是,一种与我们不同但大致受我们控制的外星智能的到来,对人类来说是一件大事,因为人类习惯于处于链条顶端。我认为到目前为止,这一论点正在得到证实,这些系统的能力水平将在未来远远超过人类的能力,”他说。

“现在的 GPT 系列,以让我们所有人都经历 ChatGPT 时刻而达到顶峰,它们在两个月内拥有 1 亿用户,这非常非凡,让你感受到这项技术的力量。所以我认为它被低估了,而不是被高估了,我期待在 5 到 10 年后被证明是正确的,”他补充道。

评论出现之际,关于 AI 投资是否正在推高类似互联网泡沫时代的金融泡沫的辩论正在蔓延。一些投资者担心 AI 公司的估值看起来过高。但埃里克驳回了这种比较。“我不认为这会在这里发生,但我不是专业投资者,”他说。

他强调,大量投资显示了信心。“我所知道的是,那些投入辛苦赚来的钱的人相信,从长远来看,经济回报是巨大的。否则他们为什么要承担风险呢?”埃里克问道。

不要只是阅读加密货币新闻,要真正理解它。订阅我们的通讯。 免费。

分享本文
Jai Hamid

Jai Hamid

Jai Hamid在过去6年中一直报道加密货币、股票市场、科技、全球经济以及影响市场的地缘政治事件。她曾在专注于区块链的出版物工作,包括AMB Crypto、Coin Edition和CryptoTale,从事市场分析、大型公司、监管和宏观经济趋势的报道。她毕业于伦敦新闻学院,并三次在非洲顶级电视网络之一分享加密货币市场见解。

更多新闻…