TikTok внедряет маркировку ИИ-контента для борьбы с дезинформацией

Для борьбы с ложной информацией на популярной платформе для обмена видео TikTok будет автоматически применять метки к контенту, созданному ИИ и загруженному с других платформ. В анонсе в программе Good Morning America TikTok заявил, что намерен автоматически маркировать контент, сгенерированный ИИ на других платформах. Этот шаг является частью стратегий платформы по поощрению прозрачности и честности среди ее пользователей.

Приверженность TikTok безопасности пользователей

TikTok заявляет, что он является первой платформой для обмена видео, ставшей членом Коалиции за происхождение и подлинность материалов (C2PA). Это направлено на то, чтобы позволить пользователям идентифицировать контент, созданный искусственным интеллектом, с помощью технологии «Content Credential», которая представляет собой процесс внедрения метаданных, показывающих, что конкретный контент был создан с использованием искусственного интеллекта.

В разговоре с ABC News глава отдела операций, доверия и безопасности TikTok Адам Прессер сказал, «Наши пользователи и создатели контента так воодушевлены ИИ и тем, что он может сделать для их творчества и способности общаться с аудиторией», и далее добавил «в то же время мы хотим убедиться, что у людей есть возможность понимать, что является фактом, а что — вымыслом».

По данным TikTok, более 37 миллионов создателей контента на TikTok использовали инструмент маркировки для создания специальных эффектов с сентября.

Отраслевое признание и сотрудничество

Анонс, сделанный TikTok, соответствует мерам, принятым другими технологическими гигантами. Это развитие произошло сразу после того, как Надзорный совет Meta рекомендовал компании пересмотреть свою политику в отношении обработки такого материала. Кроме того, YouTube, согласно The Guardian, недавно ввел некоторые правила, позволяющие звукозаписывающим лейблам запрашивать удаление видео с голосами артистов, созданными искусственным интеллектом, что другие компании следуют в обнаружении и маркировке ИИ-контента перед выборами в США, чтобы предотвратить фейковые новости.

Недавно OpenAI, компания по искусственному интеллекту, поддерживаемая Microsoft и стоящая за популярными генераторами изображений Dall-E и ChatGPT, также присоединилась к инициативе и представила инструмент, предназначенный для определения того, являются ли цифровые изображения результатом работы ИИ. Кроме того, шаг TikTok по обеспечению гарантий в отношении ИИ совпадает с юридиматумом для компании либо отказаться от своего китайского владельца, либо быть запрещенной в Соединенных Штатах.

По словам Прессера, «Партнерствуя с коллегами по маркировке контента на разных платформах, мы делаем так, чтобы создателям было легко ответственно исследовать контент, сгенерированный ИИ, продолжая при этом сдерживать вредный или вводящий в заблуждение AIGC, который запрещен на TikTok».

Помимо маркировки ИИ, TikTok намерен включить информацию о медиаграмотности. Они были созданы в сотрудничестве с MediaWise и Witness. Их цель — выпустить двенадцать видеороликов в этом году. Эти видеоролики будут содержать базовые навыки медиаграмотности.

Кроме того, он также проиллюстрирует, как метки AIGC на TikTok могут помочь предоставить больше контекста контенту. Главным двигателем этой инициативы является быстрое внедрение ИИ в различные отрасли. С ростом способностей ИИ производить более аутентичный контент также растет опасность появления дипфейков, созданных ИИ.