OpenAI正在为青少年构建新的ChatGPT

OpenAI宣布正在开发专为青少年设计的ChatGPT版本，该公司表示这是为了在安全、隐私和自由之间取得平衡所必需的。

这家以将AI推向主流而闻名的旧金山公司于周二表示，将为18岁以下用户推出其描述的“不同的ChatGPT体验”。这是在监管者、政客和父母呼吁加强对AI驱动聊天机器人对年轻人心理健康影响的审查的压力下发生的。

新的ChatGPT将拥有保护青少年的护栏

OpenAI首席执行官Sam Altman承认公司面临着艰难的权衡。

“我们的一些原则存在冲突，”他在博客文章中写道。“我们将青少年的安全置于隐私和自由之上；这是一种新型且强大的技术，我们认为未成年人需要大量保护。”

OpenAI长期以来要求用户至少13岁，但现在它打算建立更严格的年龄预测系统，以区分成年人和18岁以下未成年人。在存在不确定性的情况下，它会自动将用户转移到专为青少年设计的版本，“出于谨慎考虑”。

这种体验不仅会受到更严格的监督，而且父母也将发挥更核心的作用。通过账户链接，父母可以管理孩子的访问权限，限制记忆和聊天记录等功能，并设置系统不可用的禁用时区。如果平台检测到“急性痛苦”的迹象，父母也会收到通知。

该公司披露了进一步的限制，例如ChatGPT for teenagers不会进行调情交流，也不会回答关于自杀或自残的问题，即使在创意写作中也是如此。如果孩子表现出自杀念头，该公司表示将首先尝试通知父母，并在必要时通知当局。

“这些都是艰难的决定，但在与专家交谈后，我们认为这是最好的选择，”OpenAI写道。

OpenAI在监管审查加剧的背景下采取行动

这一新的提议发展是在美国参议院举行听证会审查AI对青少年构成风险的几小时前。这次两党讨论将由来自密苏里州的共和党参议员Josh Hawley领导， alongside参议员Marsha Blackburn、Katie Britt、Richard Blumenthal和Chris Coons。

上周，在寻求答案的过程中，联邦贸易委员会对OpenAI、Alphabet、Meta、xAI、Snap和Character.AI发起了调查。委员会要求提供每个公司为保护未成年人所采取措施的信息。最近，正如Cryptopolitan报道的那样，Common Sense Media的风险评估也将Google Gemini标记为青少年和儿童的“高风险”。

诉讼增加了压力，因为美国各地的父母提交了投诉，指控科技公司设计出的成瘾产品损害了儿童的心理健康。这一系列法律行动已经迫使YouTube等公司创建适合儿童的替代方案。

虽然OpenAI正在努力使ChatGPT对未成年人更安全，但不能保证该举措会成功，因为精通技术的年轻人可能会绕过父母控制并寻找未经过滤的流行应用程序版本。

“我们必须将18岁以下的用户与不是的用户分开。”

OpenAI。

“如果有疑问，我们会采取保守做法，”该公司在公开声明中解释道。

行业观察人士指出，尽管出于好意，但青少年经常找到“变通方法”来访问主流平台。他们说，OpenAI依赖父母监控活动可能会成为一个难点。

新举措是OpenAI更广泛承诺的一部分，承诺在年底前为年轻人和情绪困扰者引入更强的保护措施。

正如Altman所说，“这是一种新型且强大的技术，我们认为未成年人需要大量保护。”