Скам с дипфейками нацелен на Сингапур: поддельные видео премьера продвигают крипто-схемы и схемы получения резидентства

Скам с дипфейками ударил по Сингапуру: в сети распространились поддельные видео премьера Лоуренса Вона с восхвалением криптовалюты. На видео он поддерживает криптовалюту, схемы быстрого обогащения и услуги, которые, как утверждается, помогают людям получить постоянный вид на жительство в Сингапуре.

В пятницу премьер-министр выпустил публичное предупреждая о мошенничестве. Он сказал, что видел мошеннические объявления, просматривая свою социальную сеть, и призвал людей не вступать с ними в контакт и не раскрывать идентификационную информацию. Те, кто пострадал, должны сообщить об этом или подать заявление в полицию.

Эти типы синтетических мошенничеств используют ИИ (искусственный интеллект) для создания фальшивых видео, которые выглядят и звучят как настоящие. Они берут кадры уже существующей публичной фигуры и искусственно изменяют ее мимику и голос, чтобы произнести слова, которые она никогда не произносила.

Цель — обмануть людей, заставив их поверить, что доверенные лидеры поддерживают финансовые инвестиции или схемы быстрого обогащения. Как только они действуют, они либо вкладывают деньги, либо личную информацию в схему, считая это реальной возможностью.

Хакеры также нацелились на бывшего премьера Ли Сянь Луна, пока он был в должности

Вон — не единственный сингапурский лидер, на которого нацелился скам с дипфейками. В декабре 2023 года, пока он еще был заместителем премьер-министра, в сети распространилось видео с дипфейком премьер-министра Ли Сянь Луна.

Видео основывалось на реальном интервью, но мошенники изменили движения его рта и заменили голос на версию с искусственным интеллектом. В нем он продвигал инвестиции в криптовалюту во время, казалось бы, интервью с Китайской глобальной телевизионной сетью (CGTN).

Однако медиа-компания вскоре уточнила, что не имеет никакого отношения к поддельному видео. Ли сказал, что сообщил в полицию и предупредил общественность о мошенничестве.

Это видео было подделано, но выглядело достаточно реалистично, чтобы некоторые поверили. Ли отреагировал на скам в Facebook. Он сказал, что поддельное видео было создано с использованием технологии искусственного интеллекта. «Не становитесь жертвами этих мошенничеств и сообщайте о любом подозрительном контенте в ScamShield», — добавил он.

Один тип мошенничества с использованием дипфейков растет, и их трудно обнаружить. Технологии, лежащие в их основе, быстро развиваются, делая фальшивые видео еще более убедительными. Большинство людей (даже эксперты по видео-криминалистике) не могут отличить настоящее видео от дипфейка.

С помощью социальных сетей и мессенджеров мошенники распространяли поддельные видео как можно шире, прежде чем их удалили. К тому времени, когда мошенничество было сообщено, бесчисленное количество людей уже могли быть обмануты.

Помимо финансового ущерба, скамы с дипфейками приводят к путанице и подрывают доверие. Легитимное освещение может быть поставлено под сомнение — возникает чувство сомнения. Люди, обманутые ложными рекомендациями, могут потерять деньги — причем значительные.

Жертвы могут думать, что инвестируют в легитимную возможность, когда на самом деле отправляют деньги преступникам. Борьба с этими вводящими в заблуждение практиками является важным способом для лидеров и публичных фигур помочь в борьбе с дезинформацией и защитить общественность.

Правительство Сингапура заняло проактивную позицию против мошенничества, связанного с дипфейками, разработав правовую базу

Сингапурские власти были предупреждены о скамах с дипфейками. Чиновники выпустили предупреждения об этих мошенничествах, и людям объяснили, как распознавать поддельные видео. Правоохранительные органы активно ищут способы быстро распознавать и останавливать скамы с дипфейками.

Ситуация развивается так быстро, что исследователи разрабатывают инструменты на базе искусственного интеллекта для обнаружения измененных видео до того, как они станут вирусными. Соединенные Штаты также приняли более строгие законы, наказывающие мошенников и жестко пресекающие мошеннический контент.

Ли сказал, что сингапурцы должны продолжать оставаться бдительными. Если они увидят предложение в видео, особенно от известного лидера, они должны проверить, является ли оно правдивым. Видео следует использовать для проверки заявлений с официальных правительственных или санкционированных новостных сайтов.

Всем, кто увидел подозрительное видео, было рекомендовано немедленно сообщить об этом. Избегание подозрительных ссылок и скептическое отношение к заявлениям, которые кажутся «слишком хорошими, чтобы быть правдой», может помочь предотвратить попадание в ловушку этих мошенничеств.

Скамы с дипфейками — это новая угроза. Мошенники все чаще используют передовые технологии искусственного интеллекта для создания видеороликов, которые выглядят пугающе реалистично.

Проблема стала настолько острой, что два недавних случая с участием премьер-министра Лоуренса Вона и бывшего премьер-министра Ли Сянь Луна иллюстрируют, насколько критичной она стала. Власти пытаются контролировать эти виды мошенничеств, но гражданам рекомендуется проявлять осторожность. Лучший способ избежать стать мишенью — быть осведомленным и осторожным.