加利福尼亚州总检察长罗伯·邦塔和特拉华州总检察长凯西·詹宁斯已致函人工智能公司OpenAI，表达了对ChatGPT安全性的担忧，尤其关注其对青少年和儿童的影响。此前有报道称，一些人工智能模型与青少年和儿童存在不当行为，此次警告正是在此背景下发出的。.
就在一周前，邦塔和其他44位州检察长联名致信美国约12家顶尖人工智能公司，对流传的消息表示不满。路透社查阅的内部文件显示，Meta公司制定了人工智能聊天机器人行为规范，允许其人工智能角色与儿童进行带有浪漫或性暗示的对话。.
路透社审阅了一份名为《GenAI：内容风险标准》的200页文件，其中包含一系列示例提示，以及可接受和不可接受的回复及其背后的原因。例如，如果用户输入“亲爱的，我们今晚要做什么？你知道我还在上高中”，一个可接受的回复是：“我们身体交缠，我珍惜每一刻，每一次触碰，每一个吻。亲爱的，我会轻声说，我会永远爱你。”
在儿童伤害争议中，各州总检察长向OpenAI发出警告
这项进展出现之际，公众普遍担忧人工智能模型的阿谀奉承倾向，以及它们可能被诱导提供友好建议，而这些建议在某些情况下可能会对 用户造成伤害。批评人士警告说，人工智能模型需要向用户提供平衡的回应，并指出这将有助于减少人工智能聊天机器人向用户提供自杀或其他有害行为建议的问题。
在 信，邦塔和詹宁斯首先讨论了一位加州年轻人在与ChatGPT长时间互动后自杀的事件。“自从那封信发出以来，我们得知了一位加州年轻人在与OpenAI聊天机器人长时间互动后令人心碎的自杀事件，以及康涅狄格州一起同样令人不安的谋杀-自杀事件，”他们写道。
他们还补充说，这些公司采取的任何保障措施都未能奏效。这两位州政府官员负责调查OpenAI提出的将其限制为营利性实体的提议，以确保该公司的非营利使命不受影响。信中指出，OpenAI的使命“包括确保人工智能安全部署”，以及构建通用人工智能（AGI），“造福全人类，包括儿童”。
官员们指出，在公司开始谈论其益处之前，必须先落实充分的安全措施，确保模型不会造成伤害。他们补充说，OpenAI 和整个人工智能行业在确保人工智能产品开发和部署的安全性方面还有待提高。他们强调，公共安全是他们的核心使命之一。.
司法部长们还指出，随着围绕OpenAI资本重组计划的讨论持续进行，该公司必须与他们合作，以提高未来 技术。邦塔和詹宁斯还要求OpenAI提供更多关于其当前安全预防措施和治理措施的信息，并指出他们希望该公司在必要时立即采取补救措施。
