Meta отключает ИИ-персонажей для подростков перед новым запуском

Meta объявила, что отключает доступ всех подростков к своим ИИ-персонажам во всем мире во всех приложениях.

«Начиная с ближайших недель, подростки больше не смогут получать доступ к ИИ-персонажам в наших приложениях, пока обновленный опыт не будет готов», — написала Meta в блоге.

Компания заявила в обновленном посте в блоге, что это правило распространяется на всех, кто указал день рождения подростка, а также на тех, кто говорит, что они взрослые, но чей возраст предсказательная технология считает подростковым.

Meta ограничила доступ, когда родители потребовали более четкой информации и контроля над взаимодействием своих подростков с ИИ.

Компания планировала выпустить эти функции в этом году, но решила полностью отключить ИИ-персонажей.

Meta планирует ИИ-персонажей с учетом возраста

Компания стремится создать специальный ИИ-персонаж только для подростков. Meta заявила, что новые ИИ-персонажи для подростков будут включать родительский контроль.

Новые персонажи будут предоставлять ответы, соответствующие возрасту, и фокусироваться на образовании, спорте и хобби.

В октябре Meta представила родительский контроль для настройки того, как подростки взаимодействуют с ИИ в ее приложениях. Новые функции ограничили просмотр подростками экстремального насилия, наготы и графического употребления наркотиков, вдохновленные рейтингом PG-13.

Несколько дней спустя компания представила инструменты для управления ИИ-персонажами, чтобы родители и опекуны могли отслеживать темы и ограничивать доступ к конкретным персонажам. Meta заявила, что родители могут полностью отключить чаты с ИИ-персонажами.

В четверг Wired заявила сообщила, что Meta пыталась ограничить сбор информации о влиянии социальных сетей на психическое здоровье подростков и связанных с этим отчетах.

Компания хочет удалить любые упоминания о недавнем случае самоубийства подростка, связанном с социальными сетями, а также ссылки на финансы Meta, деятельность сотрудников и годы Марка Цукерберга в Гарварде.

Шаг Meta по остановке ИИ-персонажей для подростков происходит незадолго до суда в Нью-Мексико, где Meta сталкивается с обвинениями в неспособности защитить детей в своих приложениях.

Утверждается, что Meta не защищала несовершеннолетних от онлайн-соблазнения, торговли людьми и сексуального насилия на своих сайтах.

Meta заявила в предсудебных ходатайствах, что присяжные должны решать только вопрос о том, нарушила ли Meta Закон Нью-Мексико о недобросовестной практике в отношении безопасности детей и психического здоровья молодежи. 

Другие вопросы, такие как предполагаемое вмешательство в выборы, дезинформация или нарушения конфиденциальности, не должны учитываться.

Помимо дела в Нью-Мексико, Meta сталкивается с судом на следующей неделе по обвинению в создании зависимости от социальных сетей. 

19-летняя истец, известная как К.Г.М., утверждала, что алгоритм платформ вызвал зависимость и навредил ее психическому здоровью.

Генеральный директор Марк Цукерберг, вероятно, даст показания, как только начнется суд.

Платформы ограничивают доступ подростков

Социальные сети и ИИ-компании изменили свой подход к подросткам из-за исков, утверждающих, что они способствовали причинению вреда себе. 

В январе 20, оценивает аудиторию бесплатного плана ChatGPT более чем в 1 миллиард еженедельно активных пользователей, и именно рекламная модель помогает поддерживать работу бесплатной версии. представила функции предсказания возраста в ChatGPT для обнаружения и усиления мер защиты для более молодых пользователей.

Модель предсказания возраста ChatGPT анализирует поведенческие и учетные данные, такие как заявленный возраст пользователя, возраст аккаунта, время активности и тенденции использования.

На прошлой неделе TikTok представил ИИ-технологию в Европе для обнаружения и удаления аккаунтов пользователей младше 13 лет. 

Система контроля возраста на основе ИИ изучает детали профиля, клипы и привычки публикации, чтобы выявить аккаунты несовершеннолетних. Функция будет внедрена в ближайшие недели.

Другие онлайн-платформы, такие как Instagram, YouTube, TikTok и Roblox, приняли меры по возрастной фильтрации.