Дипфейки ИИ премьер-министра Великобритании и королевской семьи используются в крипто-мошенничестве на Facebook  

Сгенерированные ИИ видео премьер-министра Великобритании Керра Стармера и принца Уильяма используются для рекламы крипто-мошенничества на Facebook и Instagram. Согласно исследовательской фирме Fenimore Harper, с момента выборов в Великобритании, на которых Стармер пришел к власти в начале июля, было размещено более 250 рекламных объявлений, продвигающих платформу под названием «Immediate Edge».

В новом отчете Fenimore Harper заявила, что Immediate Edge агрессивно продвигала дипфейк-рекламу ненавязчивым пользователям в социальных сетях. В отчете говорится, что реклама платформы достигла 890 000 человек на Facebook и Instagram. Сообщается, что на данный момент Immediate Edge потратила 21 000 фунтов стерлингов (27 000 долларов) на эту рекламу. Исследовательская фирма нашла рекламу, используя большую языковую модель Meta Llama 3.1.

Крипто-мошенничество побуждает зрителей отправлять деньги и личную информацию  

Оба видео с дипфейками Стармера и принца Уильяма обещали людям «изменяющую жизнь возможность», доступную только путем предоставления личных данных, таких как имя, номер телефона и электронная почта. Кампания продвигала Immediate Edge как новую платформу, поддерживаемую премьер-министром Великобритании и принцем Уэльским, где можно зарабатывать до 1000 фунтов стерлингов в день.

Когда пользователи нажимают на рекламируемую ссылку, они попадают на целевую страницу, где их просят предоставить личную информацию. Согласно отчету, крипто-мошенники затем свяжутся с пользователями, побуждая их внести деньги на поддельную онлайн-платформу для торговли. Мошенники обычно показывают поддельный портфель с прибылью от торговли, чтобы обмануть людей и заставить их внести больше депозитов.

Мошенники Immediate Edge исчезали каждый раз, когда пользователь запрашивал вывод средств, подробно описала Fenimore Harper.

В одном из примеров цитируется дипфейк Стармера:

“«Ваша жизнь вот-вот изменится. Я Кир Стармер, премьер-министр Соединенного Королевства и лидер Лейбористской партии. Я ждал вас. Сегодня ваш счастливый день. Я не знаю, как вы нашли эту страницу, но вы не пожалеете об этом».

Рекламное объявление, созданное ИИ, утверждает, что 45 человек были отобраны для заработка «изменяющих жизнь денег» через загадочный проект. Обещается ежедневный доход в 1000 фунтов стерлингов, что составляет 7000 фунтов в неделю или 27 000 фунтов в месяц, без необходимости каких-либо предварительных знаний или специальных навыков. Также утверждается, что «это не мошенничество», и Стармеру лично ничего не нужно от зрителей.

Некоторые из рекламных объявлений использовали третьих лиц, ссылаясь на то, что это инициатива премьер-министра Великобритании.

В одном из объявлений дипфейк принца Уильяма поддерживает платформу, выражая поддержку королевской семьи. В нем говорится: «Добрый день, уважаемые граждане Соединенного Королевства. Я рад объявить, что я, принц Уильям, и вся королевская семья полностью поддерживаем инициативу премьер-министра Кира Стармера и его новую платформу».

Согласно отчету Fenimore Harper, в рекламе утверждается, что эта инициатива необходима и поможет улучшить жизнь граждан, призывая зрителей присоединиться и создать лучшее будущее для страны.

Facebook и Instagram продолжают бороться с рекламой крипто-мошенничества 

Многие из ссылок, используемых в крипто-рекламе, теперь никуда не ведут, говорится в отчете, даже несмотря на то, что некоторые дипфейк-реклама все еще работает. Объявления попали под радар анти-спам-систем как на Facebook, так и на Instagram. Google также не смог отметить крипто-мошенничество. Поиск в Google по запросу Immediate Edge сообщал пользователям, что платформа является легальным торговым программным обеспечением.

Маркус Бирд, основатель Fenimore Harper, говорит, что без строгих мер дезинформация будет продолжаться.

«Эти кампании теперь могут легко выдавать себя за известных личностей и распространять дезинформацию в интернете с беспрецедентной скоростью», — сказал он, как сообщила британская газета The Independent. «Они представляют огромную опасность для отдельных лиц, публичных фигур, бизнеса и нашей демократии».

И Meta, и Google заявили, что не одобряют распространение дезинформации и использование дипфейков ИИ на своих платформах. Представитель Meta заявил, что Meta удалила большинство незаконных объявлений, связанных со Стармером и принцем Уильямом. Google объяснил, что его «системы борьбы со спамом помогают поддерживать Google Search на 99% свободным от спама, несмотря на постоянно меняющиеся попытки спаммеров».