Мошенничества с использованием ИИ-голоса обманывают австралийцев: интригующая схема выходит на глобальный уровень?

Мошенники в Австралии используют передовые технологии ИИ для выполнения сложных мошеннических схем, эксплуатирующих доверие неосведомленных людей. Особенно тревожная тактика, известная как спуфинг, включает маскировку номеров телефонов мошенников под доверенные контакты, такие как банки, государственные органы или даже близкие. Что делает эту аферу еще более коварной, так это системы на базе ИИ, способные безупречно имитировать голоса знакомых людей. А что, если эта мошенническая схема станет глобальной? Подобные операции могут появиться в других местах из-за бума ИИ.

Устрашающая угроза мошенничества с голосом на базе ИИ

Чтобы продемонстрировать уязвимость людей перед таким обманом, репортер 60 Minutes Амалия Адамс сотрудничала с кибербезопасной фирмой CyberCx, чтобы организовать мошенничество, направленное на одного из членов съемочной группы. Используя технологию ИИ, Джейсон Эдельштейн, директор CyberCx, успешно воспроизвел голос Адамс и позвонил ее коллеге Дэну, попросив номер ее паспорта. Коллега, полагая, что это сама Адамс, добровольно раскрыл конфиденциальную информацию. Эта демонстрация подчеркивает легкость, с которой мошенники могут эксплуатировать технологии ИИ, чтобы завоевать доверие людей и манипулировать ими, чтобы они раскрывали личные данные.

К сожалению, многие австралийцы стали жертвами мошенников, использующих подмену номеров. Один из таких случаев произошел с бизнес-руководителем из Мельбурна Тимом Уоткинсом, который потерял более 220 000 долларов, отдав деньги мошенникам, выдававшим себя за сотрудников его банка, NAB. Мошенники убедительно имитировали номер телефона банка и заявили, что счет Уоткинса был использован для несанкционированных покупок. Не подозревая, что это обман, Уоткинн невольно предоставил им коды, полученные от мошенников, что привело к множеству транзакций и значительным убыткам. Этот инцидент выявил отсутствие установленных протоколов в финансовых учреждениях для эффективного противодействия и смягчения последствий таких кибермошенничеств.

Борьба с мошенниками, использующими ИИ, и повышение осведомленности

По мере того как мошенники все чаще используют технологии искусственного интеллекта (ИИ) для совершения мошеннических действий, становится критически важным разработать эффективные контрмеры и повысить осведомленность общественности. Хотя инструменты имитации на базе ИИ имеют законные сферы применения, их потенциал для злоупотреблений и мошеннических целей требует ответственного внедрения и четкого регулирования. Такие компании, как ElevenLabs и Synthesia, разработавшие технологии генерации человеческих голосов и изображений с помощью ИИ, подчеркивают этическое использование своих технологий. Однако на рынке также появляются менее этичные компании, которые с тревожной скоростью запускают аналогичные продукты.

Для решения растущей проблемы мошенничества с использованием ИИ исследуются различные инициативы и решения. Ведутся работы по созданию инструментов обнаружения ИИ, способных выявлять синтетический контент, такой как дипфейк-видео, путем анализа пиксельных несоответствий, которые даже сложные инструменты ИИ с трудом скрывают. Кроме того, Инициатива по аутентичности контента (Content Authenticity Initiative), запущенная в 2019 году, направлена на предоставление пользователям большей прозрачности в отношении происхождения и создания получаемого ими контента.

В будущем, вероятно, потребуется национальная система цифровой идентификации для проверки подлинности личности и борьбы с растущим потоком мошенничества, генерируемого ИИ. Такая система идентификации, наряду с усилением регулирования и действий со стороны правительства, может служить защитой от обмана со стороны мошенников, использующих ИИ. Однако в настоящее время критически важно уделять приоритетное внимание информированию и образованию общественности относительно эволюционирующих тактик киберпреступников. Повышая уровень понимания и поощряя бдительность, люди могут лучше защитить себя от жертв мошенничества с использованием ИИ.