Киберпреступники используют технологии ИИ и ML в злонамеренных целях

Новый исследовательский документ, совместно подготовленный Trend Micro, Межрегиональным научно-исследовательским институтом преступности и правосудия ООН (UNICRI) и Европолом, раскрывает, как киберпреступники используют технологии искусственного интеллекта (ИИ) и машинного обучения (ML) в злонамеренных целях.

ИИ и ML в бизнесе

ИИ и ML быстро способствуют развитию более динамичного мира. Эти технологии обещают большую эффективность, более высокий уровень автоматизации и автономности. ИИ — это технология двойного назначения, лежащая в основе четвертой промышленной революции. С помощью ML, подраздела ИИ, который анализирует большие объемы данных для выявления закономерностей с помощью алгоритмов, предприятия, организации и правительства могут совершать впечатляющие достижения, стимулирующие инновации и улучшение бизнеса. К 2020 году 37% бизнесов и организаций уже интегрировали ИИ в свои системы и процессы. Инструменты на базе ИИ и ML позволяют предприятиям лучше предсказывать покупательское поведение клиентов, способствуя увеличению доходов. Некоторые предприятия, такие как Amazon, построили высокоприбыльный бизнес с помощью инструментов на базе ML и ИИ.

Неправомерное использование и злоупотребления ИИ и ML

Хотя ИИ и ML могут поддерживать бизнес и помогать решать некоторые из самых больших вызовов общества, эти технологии также могут обеспечивать широкий спектр цифровых, физических и политических угроз. Те же самые функции, которые делают системы ИИ и ML неотъемлемой частью бизнеса, киберпреступники используют и злоупотребляют ими ради незаконной выгоды.

*Дипфейки*: Одним из популярных злоупотреблений ИИ являются дипфейки, которые включают использование методов ИИ для создания или манипулирования аудио- и видеоконтентом, чтобы придать им подлинный вид. Дипфейки подходят для кампаний дезинформации, поскольку их трудно отличить от легитимного контента. Дипфейки имеют потенциал искажать реальность в корыстных целях, как это видно на примере предполагаемого видео с дипфейком, которое дестабилизировало коалиционное правительство в Малайзии, и аудио с дипфейком, которое обмануло британскую энергетическую компанию, заставив ее перевести почти 200 000 британских фунтов на банковский счет в Венгрии.

*Подбор паролей с поддержкой ИИ*: Киберпреступники используют ML для улучшения алгоритмов подбора паролей пользователей. С помощью нейронных сетей и генеративно-состязательных сетей (GAN) киберпреступники могут анализировать огромные наборы данных паролей и генерировать вариации паролей, соответствующие статистическому распределению, что приводит к более точным и целевым подборам паролей.

*Имитация человека на платформах социальных сетей*: Киберпреступники злоупотребляют ИИ для имитации человеческого поведения в социальных сетях. Например, боты с поддержкой ИИ на Spotify могут имитировать паттерны использования, похожие на человеческие, чтобы обмануть системы обнаружения ботов и сгенерировать мошеннические прослушивания и трафик для определенных исполнителей.

*Взлом с поддержкой ИИ*: Киберпреступники вооружают фреймворки ИИ для взлома уязвимых хостов. Например, DeepExploit, инструмент для тестирования на проникновение с поддержкой ML, и PWnagotchi 1.0.0, разработанный для взлома Wi-Fi через атаки деаутентификации, используют модели нейронных сетей для улучшения производительности взлома.

Будущие злоупотребления и неправомерное использование ИИ и ML

В будущем от преступников ожидается использование ИИ для расширения масштабов и охвата их атак, уклонения от обнаружения и злоупотребления ИИ как вектором атаки и поверхностью атаки. ИИ может автоматизировать первые шаги атаки через генерацию контента, улучшить сбор бизнес-разведданных и ускорить скорость обнаружения компрометации как потенциальных жертв, так и бизнес-процессов. ИИ также может быть использован для манипулирования практиками торговли криптовалютами и причинения физического вреда или ущерба людям, как это видно в дронах с распознаванием лиц на базе ИИ, несущих взрывчатку.

Технологии ИИ и ML имеют множество положительных вариантов использования, но также используются и для преступных и злонамеренных целей. Понимание возможностей, сценариев и векторов атак, демонстрирующих, как эти технологии используются, необходимо для защиты систем, устройств и широкой общественности от продвинутых атак и злоупотреблений.

О исследовании

Исследовательский документ под названием «Злонамеренное использование и злоупотребления искусственным интеллектом» является совместным усилием Trend Micro, Межрегионального научно-исследовательского института преступности и правосудия ООН (UNICRI) и Европола. В нем обсуждаются текущие злонамеренные использования и злоупотребления технологиями ИИ и ML, а также вероятные будущие сценарии, в которых киберпреступники могут злоупотреблять этими технологиями ради незаконной выгоды.

Технологии ИИ и ML имеют множество положительных вариантов использования, включая визуальное восприятие, распознавание речи, перевод языков, извлечение закономерностей и функции принятия решений в различных областях и отраслях. Однако эти технологии также используются для преступных и злонамеренных целей. Понимание возможностей, сценариев и векторов атак, демонстрирующих, как эти технологии используются, необходимо для защиты систем, устройств и широкой общественности от продвинутых атак и злоупотреблений.