Компания OpenAI разрабатывает новый ChatGPT специально для подростков

Компания OpenAI объявила о разработке специальной версии ChatGPT для подростков, что, по ее словам, необходимо для достижения баланса между безопасностью, конфиденциальностью и свободой.

Компания из Сан-Франциско, известная прежде всего внедрением ИИ в массовое использование, во вторник заявила о запуске, как она выразилась, «нового опыта работы с ChatGPT» для пользователей младше 18 лет. Это происходит на фоне давления со стороны регулирующих органов, политиков и родителей, которые призывают к усилению контроля за влиянием чат-ботов на основе ИИ на психическое здоровье молодежи.

В новой версии ChatGPT будут предусмотрены средства защиты для подростков

Генеральный директор OpenAI Сэм Альтман признал, что компания столкнулась с непростыми компромиссами.

«Некоторые из наших принципов противоречат друг другу», — написал он в своем блоге. «Мы ставим безопасность выше конфиденциальности и свободы подростков; это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в серьезной защите»

Компания OpenAI долгое время требовала, чтобы пользователям было не менее 13 лет, но теперь она намерена создать более строгую систему прогнозирования возраста, чтобы отличать взрослых от лиц младше 18 лет. В случае неопределенности система автоматическиmaticпользователя на версию, предназначенную для подростков, «из соображений предосторожности».

Такой подход не только обеспечит более строгий контроль, но и поставит родителей в более центральную роль. Благодаря привязке учетных записей, родители смогут управлять доступом своих детей к системе, ограничивать доступ к таким функциям, как сохранение воспоминаний и истории чатов, а также устанавливать часы, в течение которых система будет недоступна. Родители также будут получать уведомления, если платформа обнаружит признаки «острого стресса».

Компания раскрыла дополнительные ограничения, например, ChatGPT для подростков не будет участвовать в флирте и не будет отвечать на вопросы о самоубийстве или членовредительстве, даже в рамках художественной литературы. Если у ребенка появятся суицидальные мысли, компания заявляет, что сначала попытается уведомить родителей и, при необходимости, сообщить об этом властям.

«Это сложные решения, но после консультаций с экспертами мы считаем, что это наилучший вариант», — написала компания OpenAI.

Компания OpenAI действует в условиях усиленного регуляторного контроля

Эта новая разработка появилась накануне слушаний в Сенате США, посвященных изучению рисков, которые искусственный интеллект представляет для подростков. Двухпартийное обсуждение возглавит сенатор-республиканец от штата Миссури Джош Хоули, а также сенаторы Марша Блэкберн, Кэти Бритт, Ричард Блюменталь и Крис Кунс.

На прошлой неделе Федеральная торговая комиссия в рамках процесса поиска ответов начала расследование в отношении компаний OpenAI, Alphabet, Meta, xAI, Snap и Character.AI. Комиссия требует предоставить информацию о мерах, принятых каждой из них для защиты несовершеннолетних. Недавно, как сообщило издание Cryptopolitan, оценка рисков, проведенная Common Sense Media, также отнесла Google Gemini к категории «высокого риска» для подростков и детей.

Судебные иски усиливают давление, поскольку родители по всей территории США подают жалобы , обвиняя технологические компании в разработке вызывающих привыкание продуктов, которые вредят психическому здоровью детей. Волна судебных разбирательств уже вынудила такие компании, как YouTube, создавать альтернативы, более подходящие для детей.

Хотя OpenAI прилагает усилия для создания более безопасного ChatGPT для несовершеннолетних, нет гарантии, что эта инициатива будет успешной, поскольку технически подкованные подростки могут обходить родительский контроль и искать нефильтрованные версии популярных приложений.

«Мы должны разделять пользователей младше 18 лет и пользователей старше 18 лет»

OpenAI.

«Если возникнут сомнения, мы предпочтем перестраховаться», — пояснила компания в своем публичном заявлении.

Эксперты отрасли отмечают, что, несмотря на благие намерения, подростки часто находят «обходные пути» для доступа к популярным платформам. По их словам, зависимость OpenAI от родителей в вопросах контроля за активностью может стать камнем преткновения.

Новая инициатива является частью более широкого обязательства OpenAI по внедрению болееtronмер защиты для молодежи и лиц, находящихся в состоянии эмоционального стресса, к концу года.

Как выразился Альтман: «Это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в серьезной защите»