Более 12 000 родителей подписали онлайн-петицию, призывающую TikTok внедрить более четкую маркировку для созданных искусственным интеллектом (ИИ) блогеров, выражая обеспокоенность по поводу потенциального воздействия на детей и подростков. Петиция, адресованная генеральному директору TikTok Шоу Цзы Чу, спонсируется некоммерческой организацией ParentsTogether, которая выступает за безопасность детей в интернете.
Растущая обеспокоенность по поводу нереалистичных стандартов красоты и дисморфофобии
Родители выражают опасения, что ИИ-инфлюенсеры, демонстрирующие лица и тела, созданные с помощью ИИ, могут способствовать формированию нереалистичных стандартов красоты и дисморфофобии среди юных зрителей. Несмотря на то, что «виртуальные инфлюенсеры» существуют уже много лет, недавний всплеск развития генеративных технологий искусственного интеллекта усложнил задачу для пользователей, особенно для детей, по различению реального и искусственного контента.
Ответ TikTok и защита интересов родителей
В ответ на опасения TikTok ввел меры, требующие от создателей контента маркировать все реалистичные видеоролики, созданные с помощью ИИ. Однако организация ParentsTogether утверждает, что этого недостаточно для единообразнойdent. Директор кампании организации, Шелби Нокс, утверждает, что многие видеоролики, созданные с помощью ИИ в TikTok, остаются без маркировки, что затрудняет для зрителей определение того, смотрят ли они контент, созданный ИИ.
Представитель TikTok подтвердил приверженность платформы безопасности и творчеству. Приветствуя творческий потенциал, который раскрывает ИИ, TikTok признает риски, связанные с непрозрачным использованием ИИ. Представитель упомянул о превентивных мерах по созданию функций безопасности, позволяющих сбалансировать творчество и защиту зрителей. TikTok также подчеркнул запрет на контент, пропагандирующий расстройства пищевого поведения или опасные методы похудения.
Неадекватная маркировка и призыв к ответственности
Организация ParentsTogether подчеркивает необходимость того, чтобы TikTok играл более активную роль в последовательной и наглядной маркировке аккаунтов и видео, созданных с помощью ИИ. Виртуальные инфлюенсеры часто указывают в своих биографиях свою виртуальную природу, но сам контент может не иметь явнойdentкак созданный ИИ. Хэштеги, такие как «#aiinfluencer», иногда скрыты в описаниях видео, что еще больше затрудняет различение для зрителей.
Нокс выразила обеспокоенность тем, что среднестатистический ребенок может не понять отраслевую терминологию, связанную с «виртуальным инфлюенсером», и призвала TikTok решить эту проблему, чтобы ограничить потенциальное негативное воздействие на свою пользовательскую базу. Организация утверждает, что TikTok, как платформа, способствующая монетизации виртуальных инфлюенсеров, несет ответственность за обеспечение прозрачной маркировки, чтобы способствовать созданию более безопасной онлайн-культуры.
Действия TikTok и продолжающиеся проблемы
В ответ на предупреждение ParentsTogether, TikTok сообщил об удалении трех отмеченных аккаунтов. Платформа придерживается позиции против контента, пропагандирующего расстройства пищевого поведения или опасные методы похудения. Несмотря на эти действия, сохраняются опасения относительно эффективности системы маркировки и потенциального воздействия на молодых пользователей, которые могут неосознанно взаимодействовать с контентом, созданным искусственным интеллектом.
Достижение баланса между креативностью и прозрачностью
По мере обострения дискуссий об использовании искусственного интеллекта в качестве инфлюенсеров в TikTok платформа оказывается на стыке креативности и вопросов безопасности. Крайне важно найти баланс между поддержкой инновационного контента и обеспечением прозрачности в отношении использования ИИ. Призывы родителей к усилению практики маркировки отражают растущее осознание потенциальных последствий использования ИИ-инфлюенсеров для детского сознания.
