Отчет Европола: Искусственный интеллект стал ключевым инструментом для европейских преступных группировок

Согласно недавно опубликованному совместному докладу Европола, Межрегионального научно-исследовательского института ООН по вопросам преступности и правосудия (UNICRI) и компании Trend Micro, преступники становятся все более искусными в совершении мошеннических схем благодаря искусственному интеллекту (ИИ). 

В отчете указывается, что организованные преступные группировки все чаще прибегают к мошенническим схемам и платежным системам, использующим искусственный интеллект, чтобы нацеливаться на жертв. Возможности ИИ позволяют этим преступным группам быстро развивать свою деятельность по всему миру, что затрудняет их обнаружение.

Согласно отчету Европейской оценки угроз организованной преступности, доступ к технологиям искусственного интеллекта позволяет им создавать сообщения на нескольких языках и очень реалистичные копии людей, чтобы выдавать себя за отдельных лиц и шантажировать жертв в рамках глобальных операций по кибермошенничеству.

В отчете также содержалась информация о существующих и потенциальных атаках с использованием ИИ, а также рекомендации по снижению этих рисков.

В докладе подчеркивалась роль ИИ в защите от мошенничества

Привлекательность ИИ заключается в большей эффективности, которую он обеспечивает за счет автоматизации и автономности. Этот доклад появился как нельзя кстати; в настоящее время общественность все больше обеспокоена потенциальным злоупотреблением ИИ, что вынуждает власти быть прозрачными в отношении угроз, не упуская при этом из виду потенциальные преимущества, которые может предложить технология ИИ.

Эдвардас Шилерис, глава Европейского центра по борьбе с киберпреступностью Европола, заявил: «Этот доклад поможет нам не только предвидеть возможные злонамеренные способы использования ИИ, но и заблаговременно предотвращать и смягчать эти угрозы. Именно так мы сможем раскрыть потенциал ИИ и извлечь выгоду из позитивного применения систем искусственного интеллекта»

В докладе делается вывод, что киберпреступники, если они еще этого не делают, в конечном итоге будут использовать ИИ как вектор атаки и как поверхность для атаки.

В настоящее время дипфейки являются наиболее известным примером использования ИИ в качестве вектора атаки. Однако, согласно отчету, в будущем потребуются новые технологии проверки для снижения риска дезинформационных кампаний и вымогательства, а также угроз, направленных на наборы данных ИИ.

Искусственный интеллект может быть использован в таких случаях, как создание убедительных атак с применением методов социальной инженерии в больших масштабах; вредоносное ПО для сбора данных из документов с целью повышения эффективности атак; обход систем распознавания изображений и голосовой биометрии; атаки программ-вымогателей, интеллектуальное нацеливание и обход этих систем; а также загрязнение данных путемdent«слепых зон» в правилах обнаружения.

«По мере того, как приложения ИИ начинают оказывать существенное влияние на реальный мир, становится ясно, что это будет фундаментальная технология для нашего будущего», — сказал Иракли Беридзе, руководитель Центра ИИ и робототехники в UNICRI.

Беридзе продолжил, отметив, что «точно так же, как и польза ИИ для общества реальна, так и угроза его злонамеренного использования тоже реальна»

«Для нас большая честь сотрудничать с Европолом и Trend Micro, чтобы пролить свет на темную сторону искусственного интеллекта и стимулировать дальнейшее обсуждение этой важной темы», — сказал.

В отчете также содержится предупреждение о том, что разрабатываются системы искусственного интеллекта, которые повысят эффективность вредоносного ПО и нарушат работу антивирусных программ и систем распознавания лиц.

«Киберпреступники всегда были первопроходцами в освоении новейших технологий, и ИИ не является исключением. Как показывает этот отчет, он уже используется для подбора паролей, взлома CAPTCHA и клонирования голоса, и в разработке находится еще множество других вредоносных нововведений», — заявил Мартин Рослер, руководитель отдела перспективных исследований угроз в Trend Micro.

«Мы гордимся тем, что сотрудничаем с Европолом и UNICRI для повышения осведомленности об этих угрозах и, таким образом, помогаем создать более безопасное цифровое будущее для всех нас»

В заключение отчета три организации представили несколько рекомендаций. Одна из них заключалась в использовании потенциала технологий искусственного интеллекта в качестве инструмента борьбы с преступностью для обеспечения устойчивости индустрии кибербезопасности и правоохранительных органов в будущем.

Ещё одной целью было продолжение исследований для стимулирования развития защитных технологий и продвижения безопасных фреймворков проектирования ИИ. Они также призвали к снижению риторики, имеющей политическую подоплёку, в отношении использования ИИ в целях кибербезопасности и поощряли государственно-частное партнёрство для привлечения и создания междисциплинарных экспертных групп.

Новая эра в организованной преступности

Как отмечается в докладе, организованная преступность действительно эволюционировала, включив в свою деятельность использование искусственного интеллекта, который позволяет масштабировать и разрабатывать сложные мошеннические схемы, используя его эффективные возможности.

Согласно сообщению медиакомпании Insight Crime, власти Аргентины недавно выпустили предупреждение о том, что преступники «все чаще используют ИИ для обновления старых мошеннических схем и привлечения новых жертв».

Помимо дипфейков — очень реалистичных аудио-, видео- или фотоснимков, созданных с помощью машинного обучения и используемых для мошенничества, например, для выдачи себя за другое лицо, — ИИ интегрируется в сферу финансовых преступлений, помогая автоматизировать фишинговые кампании, создавая убедительные поддельныеdentили оптимизируя вредоносное ПО для использования уязвимостей в системах. Автоматизация, являющаяся ценным инструментом в этой области, также позволяет преступным группам охватывать больше жертв с меньшими усилиями.

Помимо мошенничества, ИИ используется для содействия другим незаконным операциям, включая торговлю наркотиками, где он может помочь анализировать данные о цепочках поставок, транспортных маршрутах или методах работы правоохранительных органов, чтобы минимизировать риски и максимизировать прибыль.

Также используются чат-боты на основе искусственного интеллекта и криптовалюты для ускорения отмывания денег, обеспечивая более быстрые, анонимные транзакции, которые трудно trac.

Инструменты обеспечения доступности, такие как большие языковые модели (например, ChatGPT) и генеративный искусственный интеллект, также снизили технический барьер, предоставив даже менее опытным преступникам возможность обманывать и оставаться безнаказанными.

Отчет Европола — это попытка держать мир в курсе последних событий, касающихся взаимодействия ИИ с преступностью. Это также призыв к действию, содержащий рекомендации по борьбе с преступностью с помощью огня; в конце концов, люди не могут угнаться за ИИ, но мы можем создать ИИ для борьбы с несанкционированным применением этой технологии.