ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС

OpenAI создает новый ChatGPT специально для подростков

АвторЭнаси МапакамеЭнаси Мапакаме 3 мин. чтения

Фото от Levart_Photographer на Unsplash.

  • OpenAI анонсировала новую версию ChatGPT, специально разработанную для подростков.
  • Благодаря этому новому чат-боту родители получают контроль над доступом к чату, ответами и временем блокировки.
  • Рост числа судебных исков и опасений по поводу безопасности побуждает технологические компании ужесточать меры защиты для подростков.

 

 

OpenAI объявила, что разрабатывает выделенную версию ChatGPT для подростков, называя этот шаг необходимым для достижения баланса между безопасностью, конфиденциальностью и свободой.

Компания из Сан-Франциско, наиболее известная продвижением ИИ в мейнстрим, заявила во вторник, что представит то, что она описала как «другой опыт использования ChatGPT» для пользователей младше 18 лет. Это происходит на фоне давления со стороны регуляторов, политиков и родителей, которые призывают к более тщательному изучению влияния ИИ-чатботов на психическое здоровье молодежи.

Новый ChatGPT будет иметь защитные механизмы для защиты подростков

Генеральный директор OpenAI Сэм Альтман признал, что компания столкнулась с трудными компромиссами.

«Некоторые из наших принципов вступают в конфликт», — написал он в блоге. «Мы ставим безопасность выше конфиденциальности и свободы для подростков; это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в значительной защите.»

OpenAI давно требовала от пользователей быть не моложе 13 лет, но теперь намерена создать более строгую систему предсказания возраста, чтобы отличать взрослых от несовершеннолетних. В случае сомнений она автоматически переведет пользователя на версию для подростков «из соображений предосторожности».

Этот опыт будет не только более строго контролироваться, но и отводить родителям более центральную роль. Через привязку аккаунта матери и отцы смогут управлять доступом своих детей, ограничивать такие функции, как память и история чата, и устанавливать часы блокировки, в течение которых система недоступна. Родители также будут уведомлены, если платформа обнаружит признаки «острого дистресса».

Компания раскрыла дополнительные ограничения, такие как то, что ChatGPT для подростков не будет участвовать в флиртовом общении, а также не будет отвечать на вопросы о самоубийстве или причинении вреда себе, даже в рамках творческого письма. Если ребенок проявит суицидальные наклонности, компания заявляет, что сначала попытается предупредить родителей и, при необходимости, уведомит власти.

«Это трудные решения, но после разговоров с экспертами, мы считаем, что это лучшее», — написала OpenAI.

OpenAI действует на фоне усиления регуляторного надзора

Это новое предлагаемое развитие происходит за несколько часов до слушаний в Сенате США, посвященных изучению рисков, которые ИИ представляет для подростков. Двухпартийное обсуждение будет вести сенатор-республиканец Джош Хоули из Миссури вместе с сенаторами Маршей Блэкберн, Кэти Бритт, Ричардом Блюменталем и Крисом Куном.

На прошлой неделе, в рамках процесса поиска ответов, Федеральная торговая комиссия (FTC) инициировала расследование в отношении OpenAI, Alphabet, Meta, xAI, Snap и Character.AI. Комиссия требует информацию о мерах, принятых каждой компанией для защиты несовершеннолетних. Недавно, как сообщалось в Cryptopolitan, оценка рисков от Common Sense Media также классифицировала Google Gemini как «высокий риск» для подростков и детей.

Иски добавляют давления, так как родители по всей США подали жалобы, обвиняя технологические компании в создании зависимых продуктов, наносящих вред психическому благополучию детей. Эта волна судебных разбирательств уже вынудила такие компании, как YouTube, создать альтернативы, дружественные к детям.

Хотя OpenAI прилагает усилия для создания более безопасного ChatGPT для несовершеннолетних, нет гарантии успеха инициативы, так как технически подкованные подростки могут обойти родительский контроль и искать нефильтрованные версии популярных приложений.

«Мы должны разделить пользователей младше 18 лет и тех, кто старше.»

OpenAI.

«Если есть сомнения, мы будем действовать с осторожностью», — объяснила компания в своем публичном заявлении.

Отраслевые наблюдатели отмечают, что, несмотря на благие намерения, подростки часто находят «обходные пути» для доступа к мейнстримным платформам. По их словам, опора OpenAI на родителей для мониторинга активности может стать камнем преткновения.

Новая инициатива является частью более широкого обязательства OpenAI по введению более сильных защитных мер для молодых людей и тех, кто находится в эмоциональном дистрессе, к концу года.

Как выразился Альтман: «Это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в значительной защите.»

Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.

Энаси Мапакаме

Энаси Мапакаме

Энаси Мапакаме — журналист с более чем 10-летним опытом работы в сфере деловых и финансовых новостей. Она освещает вопросы капитальных рынков и emerging technologies: метавселенную, искусственный интеллект и криптовалюту. Энаси имеет степень бакалавра соhonours по специальности «Медиа и исследования общества».

ЕЩЁ … НОВОСТИ