Компания Meta объявила о блокировке доступа к своим персонажам с искусственным интеллектом для всех подростков по всему миру во всех приложениях.
«Начиная с ближайших недель, подростки больше не смогут использовать персонажей с искусственным интеллектом в наших приложениях до тех пор, пока не будет готова обновленная версия», — написала компания Meta в своем блоге.
В обновленном сообщении в блоге компания заявила, что это правило распространяется на всех, кто указал дату рождения как подростковый возраст, а также на тех, кто утверждает, что они взрослые, но технология определения возраста предположительно выдает себя за подростков.
Компания Meta прекратила доступ после того, как родители потребовали более четкой информации и контроля над взаимодействием их подростков с ИИ.
Компания планировала выпустить эти функции в этом году, но решила полностью отключить персонажей, управляемых искусственным интеллектом.
Meta планирует создать персонажей искусственного интеллекта, адаптированных под разные возрастные группы
Компания планирует создать специального персонажа с искусственным интеллектом специально для подростков. Мета заявила, что новые персонажи с ИИ для подростков будут включать функции родительского контроля.
Новые персонажи будут давать ответы, соответствующие возрасту, и сосредоточатся на образовании, спорте и хобби.
В октябре Meta представила функцию родительского контроля, позволяющую настраивать взаимодействие подростков с искусственным интеллектом в своих приложениях. Новые функции ограничивали просмотр подростками сцен чрезмерного насилия, обнажения и графического изображения употребления наркотиков, что было вдохновлено рейтингом PG-13.
Несколько дней спустя компания представила инструменты для управления персонажами, управляемыми ИИ, позволяющие родителям и опекунам tracпользователей и ограничивать доступ к определенным персонажам. Meta заявила, что родители могут полностью отключить чаты с персонажами, управляемыми ИИ.
В четверг издание Wired сообщило , что компания Meta пыталась ограничить сбор информации о влиянии социальных сетей на психическое здоровье подростков и связанных с этим сообщениях.
Компания хочет удалить все упоминания о недавнем случае самоубийства подростка, связанном с социальными сетями, а также ссылки на финансы Meta, деятельность сотрудников и годы учебы Марка Цукерберга в Гарварде.
Решение компании Meta приостановить использование ИИ-персонажей подростков принято непосредственно перед судебным процессом в Нью-Мексико, где Meta предъявлены обвинения в неспособности защитить детей в своих приложениях.
Утверждается, что компания Meta не обеспечивала защиту несовершеннолетних от онлайн-домогательств, торговли людьми и сексуального насилия на своих сайтах.
Мета заявила в ходатайствах, поданных до начала судебного разбирательства, что присяжные должны решать только вопрос о том, нарушила ли Мета Закон штата Нью-Мексико о недобросовестной практике в отношении безопасности детей и психического здоровья молодежи.
Другие вопросы, такие как предполагаемое вмешательство в выборы, дезинформация или нарушение права на неприкосновенность частной жизни, рассматривать не следует.
Помимо дела в Нью-Мексико, на следующей неделе Мета предстанет перед судом по обвинению в создании зависимости от социальных сетей.
19-летняя истица, известная как KGM, утверждала, что алгоритм платформы вызвал зависимость и нанес вред ее психическому здоровью.
Генеральный директор Марк Цукерберг, скорее всего, даст показания после начала судебного процесса.
Онлайн-платформы ограничивают доступ подростков к информации
Социальные сети и компании, занимающиеся разработкой искусственного интеллекта, изменили опыт взаимодействия подростков с ними из-за судебных исков, в которых утверждается, что они способствовали самоповреждению.
20 января компания OpenAI внедрила в ChatGPT функцию прогнозирования возраста для выявления и усиления мер защиты пользователей младшего возраста.
Модель прогнозирования возраста ChatGPT анализирует поведенческие данные и данные об учетной записи, такие как указанный возраст пользователя, возраст учетной записи, время активности и тенденции использования.
На прошлой неделе TikTok представил в Европе технологию искусственного интеллекта для обнаружения и удаления аккаунтов пользователей младше 13 лет.
Система контроля возраста на основе искусственного интеллекта анализирует данные профиля, видеоролики и привычки публикации, чтобыdentаккаунты несовершеннолетних. Эта функция будет запущена в ближайшие недели.
Другие онлайн-платформы, такие как Instagram, YouTube, TikTok и Roblox, также ввели возрастные ограничения.
