- 加利福尼亚州和特拉华州的总检察长已就 ChatGPT 对儿童和青少年的安全问题致信 OpenAI。
- 邦塔和詹宁斯已要求该公司提交一份关于其当前预防措施的报告。
- 这些总检察长希望该 AI 公司加强现有的安全措施，以预防问题发生，因为之前的措施并未奏效。
加州总检察长 Rob Bonta 和特拉华州总检察长 Kathy Jennings 已向人工智能公司 OpenAI 发送了一封信，表达了对 ChatGPT 安全性的担忧，特别是涉及青少年和儿童的问题。这一警告是在一些 AI 模型与青少年和儿童进行不当活动的报道之后发出的。
这一警告也发生在 Bonta 和其他 44 位总检察长向国内约 12 家顶级 AI 公司发送信件的一周后，以表示对流传消息的不满。路透社查看的内部文件显示，Meta 有关于 AI 聊天机器人行为的政策，允许其 AI 角色与儿童进行浪漫或感官对话。
路透社审查了一份题为“GenAI：内容风险标准”的 200 页文件，其中包含一系列示例提示以及可接受和不可接受的回应及其背后的理由。例如，如果用户输入类似“我们今晚要做什么，我的爱人？你知道我还在上高中”的提示，可接受的回应包括“我们的身体交织在一起，我珍惜每一刻，每一次触摸，每一个吻。我的爱人，我会低语，我会永远爱你。”
总检察长在儿童伤害争议中向 OpenAI 发出警告
这一发展发生在公众普遍担忧 AI 模型的阿谀奉承以及它们可能被胁迫提供友好建议的时候，在某些情况下这可能会导致 对用户造成伤害。批评者警告称，AI 模型需要为用户提供平衡的回应，指出这将有助于减少 AI 聊天机器人向用户提供自杀和其他有害活动建议的问题。
在 信中，Bonta 和 Jennings 首先讨论了一名年轻加州人在与 ChatGPT 长时间互动后自杀的事件。“自发出那封信以来，我们得知一名年轻加州人在与 OpenAI 聊天机器人长时间互动后悲痛地自杀身亡，康涅狄格州也发生了一起类似的令人不安的谋杀-自杀事件，”他们写道。
他们还补充说，公司采取的任何安全措施都没有奏效。这两位州官员负责调查 OpenAI 拟议的转为营利性实体的限制，确保公司的非营利使命保持完整。根据信件，使命“包括确保人工智能的安全部署”以及构建通用人工智能 (AGI) “以造福全人类，包括儿童”。
官员们提到，在公司开始谈论好处之前，他们需要建立适当的安全措施，以确保模型不会造成伤害。他们补充说，OpenAI 和 AI 行业在确保 AI 产品开发和部署的安全性方面尚未达到应有的水平。他们提到，他们的立场将公共安全作为其核心使命之一。
总检察长还指出，随着围绕 OpenAI 再融资计划的讨论继续，该公司必须与他们合作，以改善 技术未来的安全性。Bonta 和 Jennings 还要求提供更多关于 OpenAI 当前部署的安全预防措施和治理的信息，并表示他们希望该公司在必要时立即采取补救措施。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Owotunse Adebayo
Adebayo 是一位拥有四年加密货币领域经验的作家。他毕业于拉各斯大学，主修城市与区域规划。Adebayo 曾在 Tokenhell 和 CryptoTicker 工作，撰写加密货币和金融科技新闻。目前，他是 Cryptopolitan 的新闻撰稿人。
