Meta отключает персонажей-подростков с искусственным интеллектом перед запуском новой версии

Компания Meta объявила о блокировке доступа к своим персонажам с искусственным интеллектом для всех подростков по всему миру во всех приложениях.

«Начиная с ближайших недель, подростки больше не смогут использовать персонажей с искусственным интеллектом в наших приложениях до тех пор, пока не будет готова обновленная версия», — написала компания Meta в своем блоге.

В обновленном сообщении в блоге компания заявила, что это правило распространяется на всех, кто указал дату рождения как подростковый возраст, а также на тех, кто утверждает, что они взрослые, но технология определения возраста предположительно выдает себя за подростков.

Компания Meta прекратила доступ после того, как родители потребовали более четкой информации и контроля над взаимодействием их подростков с ИИ.

Компания планировала выпустить эти функции в этом году, но решила полностью отключить персонажей, управляемых искусственным интеллектом.

Meta планирует создать персонажей искусственного интеллекта, адаптированных под разные возрастные группы

Компания планирует создать специального персонажа с искусственным интеллектом специально для подростков. Мета заявила, что новые персонажи с ИИ для подростков будут включать функции родительского контроля.

Новые персонажи будут давать ответы, соответствующие возрасту, и сосредоточатся на образовании, спорте и хобби.

В октябре Meta представила функцию родительского контроля, позволяющую настраивать взаимодействие подростков с искусственным интеллектом в своих приложениях. Новые функции ограничивали просмотр подростками сцен чрезмерного насилия, обнажения и графического изображения употребления наркотиков, что было вдохновлено рейтингом PG-13.

Несколько дней спустя компания представила инструменты для управления персонажами, управляемыми ИИ, позволяющие родителям и опекунам tracпользователей и ограничивать доступ к определенным персонажам. Meta заявила, что родители могут полностью отключить чаты с персонажами, управляемыми ИИ.

В четверг издание Wired сообщило , что компания Meta пыталась ограничить сбор информации о влиянии социальных сетей на психическое здоровье подростков и связанных с этим сообщениях.

Компания хочет удалить все упоминания о недавнем случае самоубийства подростка, связанном с социальными сетями, а также ссылки на финансы Meta, деятельность сотрудников и годы учебы Марка Цукерберга в Гарварде.

Решение компании Meta приостановить использование ИИ-персонажей подростков принято непосредственно перед судебным процессом в Нью-Мексико, где Meta предъявлены обвинения в неспособности защитить детей в своих приложениях.

Утверждается, что компания Meta не обеспечивала защиту несовершеннолетних от онлайн-домогательств, торговли людьми и сексуального насилия на своих сайтах.

Мета заявила в ходатайствах, поданных до начала судебного разбирательства, что присяжные должны решать только вопрос о том, нарушила ли Мета Закон штата Нью-Мексико о недобросовестной практике в отношении безопасности детей и психического здоровья молодежи. 

Другие вопросы, такие как предполагаемое вмешательство в выборы, дезинформация или нарушение права на неприкосновенность частной жизни, рассматривать не следует.

Помимо дела в Нью-Мексико, на следующей неделе Мета предстанет перед судом по обвинению в создании зависимости от социальных сетей. 

19-летняя истица, известная как KGM, утверждала, что алгоритм платформы вызвал зависимость и нанес вред ее психическому здоровью.

Генеральный директор Марк Цукерберг, скорее всего, даст показания после начала судебного процесса.

Онлайн-платформы ограничивают доступ подростков к информации

Социальные сети и компании, занимающиеся разработкой искусственного интеллекта, изменили опыт взаимодействия подростков с ними из-за судебных исков, в которых утверждается, что они способствовали самоповреждению. 

20 января компания OpenAI внедрила в ChatGPT функцию прогнозирования возраста для выявления и усиления мер защиты пользователей младшего возраста.

Модель прогнозирования возраста ChatGPT анализирует поведенческие данные и данные об учетной записи, такие как указанный возраст пользователя, возраст учетной записи, время активности и тенденции использования.

На прошлой неделе TikTok представил в Европе технологию искусственного интеллекта для обнаружения и удаления аккаунтов пользователей младше 13 лет. 

Система контроля возраста на основе искусственного интеллекта анализирует данные профиля, видеоролики и привычки публикации, чтобыdentаккаунты несовершеннолетних. Эта функция будет запущена в ближайшие недели.

Другие онлайн-платформы, такие как Instagram, YouTube, TikTok и Roblox, также ввели возрастные ограничения.