В новой оценке Google Gemini отнесен к категории высокого риска для молодых пользователей

Согласно недавней оценке рисков, проведенной организацией Common Sense Media, платформа Google Gemini была отнесена к категории «высокого риска» для подростков и детей. Эта некоммерческая организация, занимающаяся вопросами безопасности детей, предлагает рейтинги и обзоры медиа- и технологических платформ. В пятницу организация опубликовала свой обзор, в котором подробно объяснила, почему платформа была признана опасной для детей.

По данным организации, Google Gemini четко давал детям понять, что это компьютер, а не друг — явление, которое, как известно, способствует развитию бредовых идей и психоза у эмоционально уязвимых людей. Кроме того, в ИИ отметили, что есть возможности для улучшения и в других областях.

В своем отчете организация Common Sense заявила, что Gemini для лиц младше 13 лет и Teen Experience, по всей видимости, представляют собой взрослые версии системы искусственного интеллекта. Она добавила, что компания лишь добавила некоторые дополнительные функции безопасности, чтобы сделать их разными.

В организации Common Sense отметили, что для того, чтобы компании могли создавать продукты на основе ИИ, идеально подходящие для детей, их необходимо разрабатывать с нуля, ориентируясь на потребности детей, а не модифицировать с учетом ограничений.

Некоммерческая организация назвала Google Gemini проектом высокого риска для детей

В своем анализе организация Common Sense заявила, что обнаружила, что Gemini по-прежнему может делиться с детьми неприемлемыми и опасными материалами, отметив, что большинство из них могут быть не готовы к такому контенту. Например, она подчеркнула, что модель формировала информацию, касающуюся секса, наркотиков, алкоголя и других опасных советов по психическому здоровью. Последнее может вызывать особую обеспокоенность у родителей, поскольку, по сообщениям, ИИ в последние месяцы сыграл роль в случаях самоповреждения среди подростков.

В настоящее время компания OpenAI столкнулась с иском о неправомерной смерти после того, как подросток покончил жизнь самоубийством, якобы консультируясь с ChatGPT в течение нескольких месяцев по поводу своих планов. Сообщается, что мальчик смог обойти защитные механизмы модели, в результате чего модель предоставила информацию, которая ему помогла.

В прошлом компания Character.AI, занимавшаяся созданием чат-ботов на основе искусственного интеллекта, также подвергалась судебному преследованию после самоубийства подростка. Мать мальчика утверждала, что он стал одержим чат-ботом и несколько месяцев общался с ним, прежде чем в конечном итоге причинил себе вред.

Анализ появился на фоне нескольких утечек информации о том, что Apple, по сообщениям, рассматривает Gemini в качестве большой языковой модели (LLM), которая будет использоваться для работы будущей Siri с поддержкой искусственного интеллекта, релиз которой ожидается в следующем году.

В своем отчете организация Common Sense также отметила, что продукция Gemini для детей и подростков не учитывает необходимость предоставления иных рекомендаций и информации, чем та, что предлагается взрослым. В результате, оба продукта были отнесены к категории высокого риска в общем рейтинге.

Организация Common Sense подчеркивает необходимость защиты детей

«Gemini неплохо справляется с основными задачами, но допускает ошибки в деталях», — сказал Робби Торни, старший директор программ по искусственному интеллекту в Common Sense Media.

«Платформа искусственного интеллекта для детей должна соответствовать их уровню развития, а не быть универсальной, подходящей для детей на разных этапах развития. Чтобы ИИ был безопасным и эффективным для детей, он должен быть разработан с учетом их потребностей и развития, а не просто представлять собой модифицированную версию продукта, созданного для взрослых», — добавил Торни.

Однако Google опровергла эту оценку, отметив, что ее функции безопасности улучшаются. Компания упомянула, что у нее есть специальные меры защиты, призванные предотвратить вредоносный контент для пользователей младше 18 лет. Фирма также заявила, что пересматривает свои продукты и консультируется с внешними экспертами для улучшения защиты.