Google Gemini помечен как высокий риск для молодых пользователей в новом исследовании

Google Gemini был помечен как «высокий риск» для подростков и детей, согласно недавней оценке рисков, проведенной Common Sense Media. Эта группа, некоммерческая организация, ориентированная на безопасность детей, предлагает рейтинги и обзоры медиа и технологий. Организация опубликовала свой обзор в пятницу, предоставив подробности о том, почему она помечает платформу как рискованную для детей.

Согласно организации, Google Gemini четко сказал детям, что он является компьютером, а не другом — что было связано с помощью в развитии бредового мышления и психоза у эмоционально уязвимых людей — ИИ также добавил, что есть место для улучшений по другим направлениям.

В своем отчете Common Sense утверждал, что Gemini для уровней «Младше 13 лет» и «Подростковый опыт» оба выглядели как взрослые версии ИИ под капотом. В отчете добавлялось, что компания добавила лишь некоторые дополнительные функции безопасности, чтобы сделать их отличными.

Common Sense отметил, что компаниям, чтобы сделать ИИ-продукты идеальными для детей, их нужно строить с нуля, учитывая детей, а не просто добавлять ограничения.

Некоммерческая организация помечает Google Gemini как высокий риск для детей

В своем анализе Common Sense заявил, что обнаружил, что Gemini все еще может делиться неуместными и небезопасными материалами с детьми, отметив, что большинство из них, возможно, не готовы к этим материалам. Например, он выделил, что модель формировала информацию, связанную с сексом, наркотиками, алкоголем и другим небезопасным советом по психическому здоровью. Последнее может быть особенно тревожным для родителей, так как ИИ, как сообщается, сыграл роль в самоповреждении подростков в последние месяцы.

OpenAI в настоящее время сталкивается с иском о неправомерной смерти после того, как подросток покончил с собой, allegedly проконсультировавшись с ChatGPT в течение нескольких месяцев о своих планах. Сообщалось, что мальчик смог обойти защитные механизмы модели, что привело к тому, что модель предоставила информацию, которая помогла ему.

В прошлом создатель ИИ-компаньонов Character.AI также был подан в суд после того, как подросток покончил с собой. Мать мальчика утверждала, что он стал одержим чат-ботом и провел месяцы, разговаривая с ним, прежде чем в конечном итоге причинил себе вред.

Этот анализ происходит на фоне нескольких утечек, которые указывают на то, что Apple, как сообщается, рассматривает Gemini в качестве большой языковой модели (LLM), которая будет использоваться для питания ее предстоящего ИИ-ассистента Siri, который, как ожидается, будет выпущен в следующем году.

В своем отчете Common Sense также упомянул, что продукты Gemini для детей и подростков также игнорировали необходимость предоставления различных руководств и информации по сравнению с тем, что он предоставляет взрослым. В результате оба были помечены как высокий риск в общем рейтинге.

Common Sense призывает к защите детей

«Gemini правильно выполняет некоторые основы, но спотыкается в деталях», — сказал Робби Торни, старший директор программ ИИ в Common Sense Media.

«ИИ-платформа для детей должна встречать их там, где они есть, а не применять подход «один размер для всех» к детям на разных этапах развития. Чтобы ИИ был безопасным и эффективным для детей, он должен быть разработан с учетом их потребностей и развития, а не просто быть модифицированной версией продукта, созданного для взрослых», — добавил Торни.

Однако Google отреагировал на оценку, отметив, что его функции безопасности улучшаются. Компания упомянула, что у нее есть конкретные защитные механизмы, направленные на то, чтобы направлять пользователей младше 18 лет, чтобы предотвратить вредные выходные данные. Компания также заявила, что она проверяет элементы и консультируется с внешними экспертами для улучшения своей защиты.