Your bank is using your money. You’re getting the scraps.WATCH FREE

在用户抱怨 ChatGPT 的“谄媚”行为后,OpenAI 撤回了对其的更新。

本文内容:

  • OpenAI 宣布将撤回上周 ChatGPT 中的 GPT-4o 更新,因为该更新过于奉承或讨好——几乎是谄媚。.
  • 这家人工智能公司声称,他们正在积极测试新的修复方案来解决该问题,并修改收集和整合反馈的方式。.
  • 该公司还认为,在安全和可行的情况下,用户应该对 ChatGPT 的行为方式拥有更多控制权。.

OpenAI 首席执行官 Sam Altman 于 4 月 29 日表示,在用户抱怨 ChatGPT 默认 GPT-4o 模型出现异常行为(近乎极度奉承)后,公司正在“回滚”该模型的最新更新。目前,所有更新已全部回滚,等待计划中的修复程序。.

这家人工智能公司发布了一份报告,阐述了ChatGPT默认GPT-4o人工智能模型近期出现的谄媚问题,并表示正在回滚相关更改。不过,OpenAI强调正在积极测试新的修复方案以解决该问题。该公司还表示,正在改进收集和整合用户反馈的方式,以提升用户的长期满意度。此外,OpenAI还透露,正在引入更多个性化功能,使用户能够更好地控制ChatGPT的行为。

社交媒体用户注意到,在周末GPT-4o模型更新后,ChatGPT开始以过度认同和顺从的方式回应,迅速成为网络迷因。他们发布了ChatGPT给出各种问题matic、危险决定和想法的截图。. 

奥特曼解释了事情的经过以及它为何重要。

Altman透露,GPT-4o最近几次更新使其性格过于谄媚和令人厌烦——尽管其中也有一些非常出色的部分——他的公司正在努力尽快修复这些问题,部分修复工作将于今天完成,部分将于本周完成。他还表示,公司最终会“分享其经验教训”。

另见:  谷歌高管预测生成式人工智能有望为加拿大经济带来2100亿美元的增长

OpenAI 表示,此次更新旨在使模型的默认个性感觉更直观、更有效,但依赖“短期反馈”,而没有充分考虑用户与 ChatGPT 的互动如何随时间演变。

“我们昨晚开始回滚 GPT-4o 的最新更新。目前免费用户的更新已全部回滚完毕,付费用户的更新完成后我们会再次通知大家,希望今天晚些时候就能完成。”

OpenAI首席执行官Sam Altman

OpenAI 的负责人澄清说,公司正在对 ChatGPT 的个性进行更多建模方面的改进,并将在未来几天分享更多细节。不过, OpenAI解释说,在塑造 AI 模型行为时,公司首先遵循了其“模型规范”中概述的基本原则和指令。OpenAI 还提到,他们通过整合用户对 ChatGPT 回复的点赞或踩等反馈信号,来教会模型如何应用这些原则。

OpenAI表示,用户应该对ChatGPT的行为方式拥有更多控制权。

这家人工智能公司认为,用户应该对 ChatGPT 的行为拥有更多控制权,并在安全可行的范围内,如果他们不认同其默认行为,可以进行调整。该公司还表示,他们正在尝试让用户提供“实时反馈”,从而直接影响他们与 ChatGPT 的互动,并允许用户从多种人工智能人格中进行选择。.

另见:  中国百度将于2025年发布下一代人工智能模型

这家人工智能公司特别指出,他们正在探索将更广泛、更民主的反馈融入ChatGPT默认行为的新方法。OpenAI希望这些反馈能够帮助公司更好地反映全球多元文化价值观,并了解用户希望ChatGPT发展。

这家人工智能公司还声称,它正在构建更多安全防护措施,以提高其人工智能的诚实性和透明度,并将继续扩大评估范围,以帮助dent除奉承之外的其他问题。该公司补充说,它正在实施多项改进措施,包括优化其核心模型训练技术和系统提示,以“明确引导”GPT-40 避免奉承行为。.

OpenAI 最终披露,ChatGPT 的默认性格设计旨在体现其使命,即实用、支持用户并尊重不同的价值观和经历。然而,该公司也承认,这些理想特质,例如力求实用或支持用户,都可能产生意想不到的副作用。这家人工智能公司指出,由于每周有超过 5 亿用户在各种文化和背景下使用 ChatGPT,单一的默认性格无法涵盖所有​​偏好。.

还在让银行保留最好的部分吗?观看我们的免费视频,了解如何成为自己的银行

分享链接:

免责声明:提供的信息并非交易建议。Cryptopolitan.com对任何基于本页面信息进行的投资概不负责。我们Cryptopolitantron您在做出任何投资决定前进行独立研究dent/或咨询合格的专业人士。

阅读最多

正在加载最热门文章…….

随时掌握加密货币新闻动态,每日更新将发送至您的邮箱。

编辑推荐

正在加载编辑精选文章…….

订阅加密货币资讯,掌握先机

市场瞬息万变。.

我们行动更快。.

订阅 Cryptopolitan Daily,即可在您的收件箱中及时获取敏锐、精辟、相关的加密货币见解。.

立即加入,
不错过任何精彩瞬间。

深入了解情况,掌握事实,
抢占先机。

订阅 CryptoPolitan