TikTok обвиняют в распространении поддельных объявлений с использованием ИИ на своей платформе

TikTok обвиняют в содействии распространению поддельных объявлений, созданных с помощью ИИ. Платформа, которая сильно зависит от доходов от рекламы, обвиняется в том, что она способствует росту количества ложных, вредоносных и, как правило, созданных ИИ объявлений, которые все чаще проскальзывают сквозь слабые фильтры.

Реклама стала жизненно важным источником дохода для большинства компаний социальных сетей в эпоху цифровизации. Большинство таких объявлений ориентированы на платформы, которыми пользуются миллиарды пользователей, и приносят доход компаниям, таким как Meta, X, TikTok и YouTube.

Согласно документам, поданным в Регистрационную службу компаний Ирландии (CRO), TikTok утверждал, что его модели полагаются на сочетание рекламы, дополнительных услуг на платформе и продаж мерчандайза.

TikTok обвиняют в содействии распространению поддельных объявлений, созданных с помощью ИИ

Материнская компания TikTok, ByteDance, в этом году приоритетно инвестировала в искусственный интеллект. В начале года газета Financial Times сообщала, что компания планирует инвестировать около 12 миллиардов долларов в чипы для ИИ в течение 2025 года.

В тот же период популярность контента, созданного с помощью ИИ, на платформе возросла, и пользователи начали применять его в рекламе. Однако за последние несколько недель на TikTok наблюдался наплыв объявлений о поддельных или вводящих в заблуждение товарах.

Например, на платформе увеличилось количество поддельных объявлений, продвигающих использование добавок для похудения и подавление аппетита. Среди таких разработок — реклама пластырей GLP-1, которые позиционируются как средства для похудения, но не содержат настоящего GLP-1, который присутствует в таких препаратах, как Ozempic и Mounjaro.

Другие объявления утверждают, что предлагают средства для избавления от «кортизолового живота» и снижения уровня стресса, приводящего к набору веса.

Кроме того, многие из этих рекламных объявлений перенаправляют пользователей на клонированные веб-сайты, которые в некоторых случаях выдают себя за законные онлайн-бизнесы. Они содержат незаконно скопированный контент в обманных и злонамеренных целях.

В случае с этими объявлениями на TikTok были клонированы несколько легитимных аптек, чтобы создать видимость того, что эти поддельные продукты продвигаются известными и заслуживающими доверия розничными продавцами.

Призывы к введению мер предосторожности при использовании ИИ на платформах социальных сетей

В своих рекламных политиках TikTok запрещает поведение, которое является вводящим в заблуждение, неаутентичным и обманным, чтобы защитить целостность, подлинность и безопасность своих пользователей и широкой общественности. Платформа также предупредила, что участие в таких практиках и злоупотребление ее политиками приведет к приостановке или постоянной блокировке аккаунтов на платформе.

В сфере здравоохранения платформа также предприняла шаги по борьбе с дезинформацией, которая может способствовать усугублению кризиса в области здоровья.

«Чтобы обеспечить доступ нашего сообщества к точной медицинской информации для поддержки обоснованных решений в области здоровья, мы удаляем дезинформацию о здоровье, связанную с серьезными медицинскими состояниями или вопросами общественного здравоохранения, а также дезинформацию, которая может привести к серьезному вреду для отдельных лиц или отговорить людей от обращения за надлежащей медицинской помощью», — заявляет компания.

Несмотря на свои политики, эти созданные ИИ объявления, продвигающие поддельные товары, по-прежнему широко распространены на TikTok.

Недавние инвестиции компании в ИИ означают, что теперь эти объявления могут создаваться с помощью специального инструмента, разработанного и созданного приложением. Компания позволяет пользователям использовать свою платформу «TikTok for Business» для создания маркетинговых кампаний, предлагая такие возможности, как рекламные инструменты, функции бизнес-аккаунтов, сотрудничество и маркетинговые стратегии.

Чтобы помочь пользователям выполнять задачи, платформа предлагает чат-бота-ассистента, который помогает людям создавать и размещать объявления в зависимости от того, что они пытаются продать.

Комментируя это развитие событий, комиссар ЕС по вопросам демократии, правосудия, верховенства права и защиты прав потребителей Майкл МакГрат отметил, что в ЕС уже существуют правила, касающиеся использования ИИ в социальных сетях.

«Нам действительно нужны меры предосторожности», — сказал г-н МакГрат. «Мы недавно предложили новые поправки к закону и стремимся найти правильный баланс. У нас есть хорошая нормативная база, но нам нужно обеспечить соблюдение этих правил».