照片由根据儿童安全非营利组织Common Sense Media近期进行的一项风险评估，谷歌Gemini平台被列为对青少年和儿童“高风险”平台。Common Sense Media是一家专注于儿童安全的非营利组织，提供媒体和技术的评级和评论。该组织于周五发布了评估报告，详细解释了为何将该平台列为对儿童构成风险的平台。.
该组织表示，谷歌 Gemini 明确告诉孩子们它是一台电脑，而不是朋友——这与助长情感脆弱者的妄想和精神病有关——人工智能还补充说，在其他方面还有改进的空间。.
Common Sense 在其报告中指出， Gemini 13岁以下儿童版和青少年体验版似乎都是基于成人版人工智能开发的。报告还补充说，该公司只是在两者之间添加了一些额外的安全功能，使它们有所区别。
常识指出，企业要想制造出理想的儿童人工智能产品，就必须从一开始就以儿童为中心进行设计，而不是通过添加限制条件来进行调整。.
非营利组织将谷歌Gemini项目列为对儿童构成高风险的项目。
Common Sense在其分析中指出，Gemini 仍然可能向儿童传播不恰当和不安全的内容，并强调大多数儿童可能尚未做好接收这些内容的准备。例如，该模型会提供与性、毒品、酒精和其他不安全的心理健康建议相关的信息。后者尤其令家长担忧，因为据报道，人工智能在近几个月来与青少年自残行为有关。
OpenAI目前正面临一起非正常死亡诉讼，起因是一名青少年在与ChatGPT咨询数月后自杀身亡。报道称，这名男孩绕过了模型的安全防护措施，导致模型向他提供了有助于其自杀的信息。.
此前，人工智能伴侣软件Character.AI也曾因一名青少年自杀而被起诉。男孩的母亲声称，他沉迷于这款聊天机器人，在最终伤害自己之前，曾与它进行了数月的对话。.
此前有多个泄露消息称，苹果公司正在考虑将 Gemini作为大型语言模型 (LLM)，用于驱动其即将推出的 AI 智能语音助手 Siri，预计 Siri 将于明年发布。
Common Sense在其报告中还提到，Gemini面向儿童和青少年的产品也忽略了需要提供与成人产品不同的指导和信息。因此，这两类产品在整体评级中都被列为高风险产品。.
常识强调保护儿童的必要性
“Gemini 在一些基本方面做得不错，但在细节方面却有所欠缺，”Common Sense Media 人工智能项目高级总监 Robbie Torney 表示。.
托尼补充道：“面向儿童的人工智能平台应该因材施教，而不是对处于不同发展阶段的儿童采取一刀切的方式。要确保人工智能对儿童安全有效，其设计必须考虑到他们的需求和发展阶段，而不仅仅是成人产品的修改版。”.
然而，谷歌反驳了这一评估，并指出其安全功能正在不断改进。该公司表示，已采取具体措施引导18岁以下用户避免有害内容的产生。谷歌还表示，会定期审查内容并咨询外部专家，以提升其安全防护能力。.
