Отчёт Европола: ИИ стал ключевым инструментом для преступных группировок Европы

Согласно совместному новому отчёту, опубликованному Европолом, Межрегиональным институтом исследований преступности и правосудия ООН (UNICRI) и Trend Micro, преступники становятся лучше в том, чтобы избегать ответственности за мошенничество благодаря искусственному интеллекту (ИИ). 

Отчёт показывает, что организованные преступные группировки обращаются к мошенническим схемам и платёжным системам на базе ИИ для нацеливания на жертв. Возможности ИИ позволяют этим преступным группам быстро разворачивать операции по всему миру, делая их более трудными для обнаружения.

Доступ к технологиям ИИ означает, что они могут создавать сообщения на нескольких языках и создавать очень реалистичные подделки для имитации личности и шантажа целей в глобальных операциях кибермошенничества, говорится в отчёте об оценке угроз серьёзной и организованной преступности в Европе.

В отчёте также содержалась информация о существующих и потенциальных атаках с использованием ИИ и рекомендации по снижению этих рисков.

В отчёте была подчеркнута роль ИИ в мошеннических схемах, делающих их более надёжными

Привлекательность ИИ заключается в большей эффективности, которую он предлагает через автоматизацию и автономию. Этот отчёт не мог выйти в более подходящее время; в настоящее время общественность всё больше обеспокоена потенциальным злоупотреблением ИИ, что вынуждает власти быть прозрачными в отношении угроз, не упуская из виду потенциальные преимущества, которые предлагает технология ИИ.

Эдвардас Шилерис, руководитель Европейского центра киберпреступности Европола, сказал: «Этот отчёт поможет нам не только предвидеть возможные злонамеренные использования и злоупотребления ИИ, но и предотвращать и смягчать эти угрозы проактивно. Именно так мы можем раскрыть потенциал ИИ и извлечь выгоду из позитивного использования систем ИИ».

Отчёт приходит к выводу, что киберпреступники, если они ещё не делают этого, в конечном итоге будут использовать ИИ как вектор атаки и поверхность атаки.

На данный момент дипфейки являются наиболее известным использованием ИИ в качестве вектора атаки. Однако, согласно отчёту, в будущем потребуется новая технология скрининга для снижения риска кампаний дезинформации и вымогательства, а также угроз, нацеленных на наборы данных ИИ.

ИИ может использоваться в таких случаях, как создание убедительных атак социальной инженерии в масштабе; вредоносного ПО для сбора документов, чтобы сделать атаки более эффективными; обхода распознавания изображений и голосовой биометрии; атак программ-вымогателей, интеллектуального нацеливания и уклонения; а также загрязнения данных путём выявления слепых зон в правилах обнаружения.

«По мере того как приложения ИИ начинают оказывать значительное реальное влияние, становится ясно, что это будет фундаментальная технология для нашего будущего», — сказал Иракли Беридзе, руководитель Центра ИИ и робототехники в UNICRI.

Беридзе продолжил, указав, что «как преимущества ИИ для общества очень реальны, так же реальна и угроза злонамеренного использования».

«Мы гордимся тем, что стоим плечом к плечу с Европолом и Trend Micro, чтобы осветить тёмную сторону ИИ и стимулировать дальнейшее обсуждение этой важной темы», — сказал Беридзе .

В отчёте также содержится предупреждение о том, что разрабатываются системы ИИ, которые повысят эффективность вредоносного ПО и нарушат работу антивирусных систем и систем распознавания лиц.

«Киберпреступники всегда были ранними последователями новейших технологий, и ИИ не является исключением. Как показывает этот отчёт, он уже используется для подбора паролей, обхода CAPTCHA и клонирования голоса, и в разработке находится множество других злонамеренных инноваций», — сказал Мартин Рёслер, руководитель направления исследований перспективных угроз в Trend Micro.

«Мы гордимся тем, что объединяем усилия с Европолом и UNICRI для повышения осведомлённости об этих угрозах и тем самым помогаем создать более безопасное цифровое будущее для всех нас».

Три организации вынесли несколько рекомендаций для завершения отчёта. Одна из них — использовать потенциал технологии ИИ в качестве инструмента борьбы с преступностью для обеспечения устойчивости кибербезопасности и правоохранительной деятельности в будущем.

Другая рекомендация заключалась в продолжении исследований для стимулирования разработки защитных технологий и продвижения безопасных рамок проектирования ИИ. Они также призвали к снижению политизированной риторики относительно использования ИИ для целей кибербезопасности и поощряли партнёрства между государственным и частным секторами для использования и создания междисциплинарных групп экспертов.

Новая эра в организованной преступности

Как отмечает отчёт, организованная преступность действительно эволюционировала, чтобы включить использование искусственного интеллекта, используя его эффективные возможности для масштабирования и разработки сложных мошеннических схем.

Согласно посту в X от медиакомпании Insight Crime, власти Аргентины недавно распространили предупреждение о том, что преступники «всё чаще используют ИИ для обновления старых схем мошенничества и вовлечения новых жертв».

Помимо дипфейков, которые являются очень реалистичными аудио, видео или изображениями, сгенерированными машинным обучением и используемыми для мошенничества, такого как мошенничество с подменой личности, ИИ интегрируется в финансовые преступления, помогая автоматизировать фишинговые кампании, генерировать убедительные фальшивые личности или оптимизировать вредоносное ПО для нацеливания на уязвимости в системах. Автоматизация, которая является заслугой, делающей ИИ драгоценностью на рабочем месте, также позволяет группам достигать большего числа жертв с меньшими усилиями.

Помимо мошенничества, ИИ использовался для облегчения других незаконных операций, включая торговлю наркотиками, где он может помочь анализировать данные о цепочках поставок, маршрутах транспортировки или моделях правоохранительных органов для минимизации рисков и максимизации прибыли.

Также существует использование чат-ботов на базе ИИ и криптовалют для ускорения отмывания денег, обеспечивая более быстрые, анонимизированные транзакции, которые трудно отследить.

Инструменты доступности, такие как большие языковые модели (например, ChatGPT) и генеративный ИИ, также снизили технический барьер, дав даже менее квалифицированным преступникам возможность мошенничать и избегать ответственности.

Отчёт Европола — это попытка держать мир в курсе последних событий на пересечении ИИ и преступности. Это также призыв к действию, наполненный рекомендациями бороться огнём с огнём; в конце концов, люди не могут угнаться за ИИ, но мы можем создать ИИ для борьбы с злонамеренными применениями этой технологии.