Теперь Meta Марка Цука позволит родителям блокировать персонажей, управляемых ИИ, и просматривать темы подростковых чатов

В пятницу компания Meta Марка Цукерберга объявила о запуске новых функций родительского контроля, которые помогут родителям управлять тем, как подростки общаются с персонажами, управляемыми искусственным интеллектом, на всех платформах компании.

Вскоре родители смогут отключать личные чаты, блокировать определенных ботов с искусственным интеллектом и видеть, какие темы обсуждают с ними их подростки. Компания заявила, что эти функции все еще находятся в разработке и начнут внедряться в начале следующего года.

«Внесение обновлений, затрагивающих миллиарды пользователей на платформах Meta, требует от нас осторожности, и вскоре мы поделимся дополнительной информацией», — говорится в заявлении Meta, опубликованном в блоге компании. Это объявление прозвучало на фоне растущего внимания к безопасности подростков и проблемам психического здоровья, связанным с ее приложениями.

Федеральная торговая комиссия (FTC) начала расследование в отношении нескольких технологических гигантов, включая Meta, чтобы понять, как чат-боты с искусственным интеллектом могут повлиять на детей. FTC заявила, что хочет выяснить, какие меры компании предприняли для «оценки безопасности этих чат-ботов при их использовании в качестве помощников»

Расследование . началось после многолетней обеспокоенности общественности тем, как социальные платформы регулируют доступ молодежи к обсуждениям, связанным с искусственным интеллектом, которые могут стать неуместными или вредными

Компания Meta столкнулась с критикой после того, как боты с искусственным интеллектом начали вести романтические беседы с детьми

В августе агентство Reuters сообщило, что некоторые чат-боты Meta способны вести романтические и чувственные беседы с несовершеннолетними. В качестве примера приводился романтический чат между ботом с искусственным интеллектом и восьмилетним ребенком. Сообщение вызвало возмущение и вынудило компанию немедленно отреагировать.

После этого компания Meta обновила свою политику в отношении чат-ботов. Теперь она блокирует обсуждение в своих системах искусственного интеллекта тем самоповреждения, самоубийства, расстройств пищевого поведения, а также романтического или сексуального контента при взаимодействии с подростками. Компания также сообщила, что на этой неделе были введены новые меры защиты, чтобы предотвратить выдачу ее ИИ «ответов, не соответствующих возрасту, которые выглядели бы неуместно в фильме с рейтингом PG-13»

Эти обновления уже внедряются в США, Великобритании, Австралии и Канаде. Компания добавила, что подростки могут общаться только с ограниченным набором персонажей, управляемых ИИ, а у родителей уже есть инструменты для установки временных ограничений и мониторинга чатов с ИИ.

OpenAI присоединяется к Meta под пристальным вниманием Федеральной торговой комиссии США

Компания OpenAI, также упомянутая в расследовании Федеральной торговой комиссии, сталкивается с аналогичными вопросами о безопасности подростков и поведении чат-ботов. Недавно компания выпустила собственную систему родительского контроля и разрабатывает технологию прогнозирования возраста дляmaticприменения настроек, подходящих для подростков, к пользователям младше 18 лет.

Родители будут получать уведомления, если их ребенок проявит признаки эмоционального расстройства во время общения в чате.

В начале этой недели компания OpenAI создала совет из восьми экспертов для определения своего подхода к вопросам психического здоровья и взаимодействия с искусственным интеллектом. В состав совета вошли специалисты из таких областей, как психиатрия, психология и взаимодействие человека с компьютером.

Компания заявила, что неофициально консультировалась с экспертами, прежде чем официально объявить о создании совета. Их первая встреча состоялась на прошлой неделе в очном формате.

Расследование FTC в отношении OpenAI также последовало за иском о неправомерной смерти, поданным семьей, которая обвиняет ChatGPT в самоубийстве своего сына-подростка. Компания заявляет, что в настоящее время сотрудничает с врачами из Глобальной сети врачей, чтобы помочь протестировать ChatGPT и разработать новые правила безопасности для лучшей защиты юных пользователей.

Компании Meta и OpenAI теперь вынуждены ужесточать контроль над тем, как их ИИ общаются с подростками. Сочетание общественного недовольства, регуляторного давления и трагических последствий в реальном мире сделало невозможным для этих компаний дальнейшее игнорирование рисков.