Google Gemini 在新评估中被列为对年轻用户具有高风险

根据 Common Sense Media 最近进行的一项风险评估，Google Gemini 被标记为对青少年和儿童具有“高风险”。该组织是一家专注于儿童安全的非营利机构，提供媒体和技术的评级与评论。该机构于周五发布了其审查报告，详细说明了为何将该平台标记为对儿童存在风险。

据该组织称，Google Gemini 明确告知儿童它是一台计算机而非朋友——这一点已被认为有助于导致情感脆弱个体的妄想思维和精神病；此外，AI 还指出在其他方面仍有改进空间。

在其报告中，Common Sense 声称，13 岁以下和青少年体验层的 Gemini 在后台似乎都是成人版本的 AI。它补充说，该公司仅添加了一些额外的安全功能来使它们有所不同。

Common Sense Media 指出，企业若要为儿童打造理想的 AI 产品，必须从设计之初就以儿童为中心，而不是通过添加限制措施来调整现有产品。

非营利组织将 Google Gemini 标记为对儿童具有高风险

在其分析中，Common Sense 表示，它发现 Gemini 仍可能与儿童分享不适当和不安全的材料，并指出其中大多数儿童可能尚未准备好接触这些材料。例如，它强调该模型塑造了与性、毒品、酒精和其他不安全的心理健康建议相关的信息。后者可能特别令父母担忧，因为据报道，AI 在近几个月的青少年自残事件中发挥了作用。

OpenAI 目前正面临一起 wrongful death（过失致死）诉讼，起因是一名青少年在据称与 ChatGPT 就其计划咨询数月后自杀。报道称，该少年成功绕过了模型的安全防护机制，导致模型提供了助长其行为的有害信息。

此前，AI 伴侣制造商 Character.AI 也曾因一名青少年自杀而遭到起诉。该少年的母亲声称，孩子对聊天机器人产生了痴迷，与其交谈数月后最终选择了自我伤害。

此次分析之际，几起泄露事件表明，Apple 据称正在 考虑 Gemini 作为其即将推出的 AI 驱动 Siri 的大型语言模型 (LLM)，Siri 预计将于明年发布。

Common Sense 在其报告中还指出，Gemini 面向儿童和青少年的产品也未能提供与成人不同的指导信息和内容。因此，两者在整体评级中均被标记为高风险。

Common Sense 强调必须保护儿童安全

Gemini 在一些基本点上做得不错，但在细节上却出现了失误，”Common Sense Media AI 项目高级主管 Robbie Torney 表示。

“面向儿童的 AI 平台应契合他们当前的需求，而非采用‘一刀切’的方式对待处于不同发展阶段的孩子。要让 AI 对儿童既安全又有效，就必须以他们的需求和成长特点为设计核心，而不仅仅是将面向成人的产品稍作修改，”托尔尼补充道。

然而，谷歌对此评估结果表示反对，指出其安全功能正在持续改进。该公司强调已部署了特定的保障措施，以引导 18 岁以下用户避免接触有害内容。此外，谷歌还表示会定期审查相关项目，并咨询外部专家以不断提升防护水平。