Sam Altman 对 ChatGPT 背后隐藏的危险感到担忧

OpenAI首席执行官萨姆·奥特曼解释了该公司如何决定ChatGPT的开发方向。他表示，比起宏观的政策制定，他更担心聊天机器人行为中哪怕是最细微的选择。.

在接受塔克·卡尔森采访时，奥特曼表示他“晚上睡得不太好。有很多事情让我感到压力很大，但最让我感到压力的可能莫过于每天有数亿人与我们的模型对话这一事实。”.

Altman 将自杀描述为团队面临的最棘手的问题，并指出有一家人提起诉讼，指责 ChatGPT 导致他们十几岁的儿子死亡。.

“他们可能谈过自杀，而我们可能没能挽救他们的生命，”他说。“或许我们本可以对他们说些更好的话。或许我们本可以更积极主动一些。或许我们本可以提供一些更好的建议，比如，‘嘿，你需要寻求帮助’。”

上个月，亚当·雷恩的父母就其16岁儿子自杀身亡一事，对OpenAI提起产品责任和非正常死亡诉讼。诉状称，“ChatGPT积极帮助亚当探索自杀方法”。不久之后，OpenAI发表了一篇题为“在人们最需要的时候提供帮助”的文章，概述了改进在“敏感情况”下响应的步骤。

ChatGPT的道德准则由谁制定？

奥特曼表示，基础模型基于人类共享的知识进行训练，然后OpenAI会调整其行为，并决定系统不会做什么。“这确实是一个难题。我们现在有很多用户，他们的生活背景各不相同……但总的来说，我对模型学习和应用道德框架的能力感到惊喜，”他说道。.

他 说， 公司咨询了“数百位道德哲学家以及思考技术和系统伦理问题的人士”。他指出，公司坚持的一项原则是，该系统不会提供制造生物武器的指令。

他说：“有很多例子清楚地表明，社会利益与用户自由之间存在着严重的冲突。”他还补充说，公司“不可能事事都做得完美，也需要全世界的意见”。

使用 ChatGPT 时，用户隐私会受到怎样的影响？

卡尔森说生成式人工智能可能被用于“极权控制”，奥特曼回应说，他一直在推动“人工智能特权”，即人们告诉聊天机器人的内容应属dent信息。“当你和医生谈论健康问题或和律师谈论法律问题时，政府无法获取这些信息，对吧？……我认为我们应该对人工智能也采取同样的原则。”

一篇报道中提到的 Cryptopolitan的 缺乏法律保障。

他指出，目前美国当局可以通过传票从该公司获取用户数据。.

当被问及军方是否会利用 ChatGPT 来伤害他人时，奥特曼没有直接回答。“我不知道军方现在如何使用 ChatGPT……但我怀疑有很多军方人士会向 ChatGPT 寻求建议，”他说道，随后又补充说，他对此“不太确定该作何感想”。

OpenAI 是获得美国国防部2亿美元奖金的人工智能公司之一。

卡尔森预测，按照目前的趋势，生成式人工智能（以及由此衍生的奥特曼）可能会积累比任何其他人都更大的权力，他称 ChatGPT 为“宗教”。

“现在的情况是，很多人都在使用ChatGPT和其他聊天机器人，而且它们的功能越来越强大。它们能做的事情更多，能够取得更大的成就，创办新企业，创造新知识，”奥特曼说道。他还表示，他认为人工智能将会取代许多现有的工作岗位，尤其是在短期内。.