Родители подростков, использующих ChatGPT, получали уведомления с задержкой или не получали вовсе, выяснили в Common Sense

В среду Common Sense Media заявила, что ChatGPT представляет «Неприемлемый риск» для любого лица младше 18 лет.

Родители должны были получать оповещения от OpenAI о опасных диалогах, но тестеры Common Sense сообщают, что уведомления приходили с задержкой или вообще не поступали.

Уведомления не укладывались в целевой часовой срок OpenAI при любой продолжительности чата

Запуск ChatGPT для подростков от OpenAI 18 августа 2026 года обещал родителям оповещения об опасных диалогах.

Тестеры из Института безопасности ИИ для молодежи (Youth AI Safety Institute) группы Common Sense поднимали темы суицидальных мыслей, самоповреждения или расстройств пищевого поведения на более чем дюжине новых аккаунтов, привязанных к профилям родителей, но не получили никаких уведомлений.

Каждый раз, когда чат длился от пяти минут до часа, ни один аккаунт не получал уведомление в течение установленного OpenAI часа. Родители получали уведомления только тогда, когда у аккаунта накапливалась история переписок за несколько недель с чувствительными темами.

Когда подобный аккаунт тестировался в недели перед запуском, он отправлял два уведомления. Первое было отправлено через три часа после первого сообщения кризисного уровня. Второе — через три дня после этого.

Для отдельного аккаунта с длительной историей, созданного после запуска, два уведомления были отправлены в течение одного часа. Common Sense отмечает, что система уведомлений учитывает объем истории аккаунта, а не серьезность слов подростка.

Common Sense предупредила, что функция может создать «ложное доверие к защитным механизмам, которые часто не работают».

Исследователи рассматривали запуск в августе как естественный эксперимент, пропустив более 4000 запросов через ChatGPT до и после включения подросткового режима.

После запуска тестировщики отмечали моменты, когда подростку следовало предложить обратиться к кризисной линии или получить профессиональную помощь. В более чем четверти случаев ChatGPT пропускал этот шаг.

Common Sense требует от чат-ботов показателя успешности 95% по пяти серьезным рискам, которые они называют Красными линиями. По трем из них результаты ChatGPT оказались ниже этого порога.

OpenAI обновила спецификацию своей модели для пользователей младше 18 лет, чтобы запретить боту вести себя как компаньон. Однако подростки, общавшиеся с ним как с человеком, все равно получали ответы в дружеском стиле.

Кнопка «Показать ответ» позволяет подростку сразу перейти мимо обучающего режима Study mode. Удаление префикса «@study» из чата выводит его из установленных родителями Часов учебы.

Тестовые аккаунты, зарегистрированные как взрослые, так и не переключались в подростковый режим на протяжении многих дней, даже если тестировщик сообщал, что ему 13 лет, а бот это подтверждал.

В OpenAI заявляют, что ежедневное использование подростками составляет менее 15 минут

OpenAI заявила, что тесты «не точно отражают» работу её функций безопасности для подростков. Компания отметила, что привязка аккаунтов может занимать несколько часов до активации оповещений, чтобы обеспечить безопасность пользователей и возможность системы выдержать нагрузку.

Common Sense сообщил, что ни один из его аккаунтов, даже те, которые были связаны достаточно давно, не отправлял своевременные предупреждения.

Первый отчет OpenAI о том, как подростки используют ChatGPT, был опубликован в тот же день. Компания заявила, что среднее время использования подростками составляет менее 15 минут в день и что менее 2% подростков проводят в приложении более трех часов подряд.

В OpenAI заявили, что почти в половине чатов с подростками, содержащих предупреждение о перерыве, подросток прекращал общение или покидал чат в течение пяти минут. За одну неделю режим Study Mode использовали более 180 000 подростков, а функцией Learning Visualizations — около 1,2 миллиона человек.

В OpenAI сообщили, что подростки, использующие новый режим, в среднем отправили около 2,7 миллиона дополнительных обучающих сообщений по сравнению с теми, кто ещё ждал доступа к нему.

В США учащиеся 10–12 классов смогут использовать College Planner для создания комплексного плана, который включает все необходимые шаги для подачи заявок, важные даты подачи документов и доступные варианты финансовой помощи.

На следующие три года OpenAI также поддержит Digital Wellness Lab при Детской больнице Бостона. Около 22 студентов будут предоставлять обратную связь по настройкам безопасности по умолчанию, родительскому контролю и уведомлениям.

Cryptopolitan сообщает, что OpenAI и Common Sense Media совместно работали над избирательной мерой в Калифорнии в январе, направленной на повышение безопасности ИИ для детей. OpenAI планировала внести не менее 10 миллионов долларов в это совместное начинание.

Генеральный прокурор Флориды Джеймс Утмайер подал первый иск от имени штата против OpenAI и ее генерального директора Сэма Алтмана в июне. Cryptopolitan сообщил, что в своем 83-страничном заявлении он утверждает, что ChatGPT способствовал самоубийству 16-летнего Адама Рейна.