Киберпреступники используют искусственный интеллект для осуществления все более сложных схем. Они нацелены на все, от пенсионных накоплений до корпоративных секретов, используя методы, которые становится все труднее обнаружить.
Та же технология, которая подбирает рекламу под покупателей в интернете, теперь используется злоумышленниками для сбора личных данных и быстрого запуска мошеннических схем. Очень быстро.
Крупнейшие компании, занимающиеся искусственным интеллектом, такие как Anthropic, OpenAI и Google, сообщают, что преступники используют их платформы для организации сложных фишинговых операций, разработки вредоносного программного обеспечения и осуществления различных цифровых атак. Специалисты по безопасности предупреждают, что преступники также создают поддельные аудио- и видеозаписи руководителей компаний, чтобы обманом заставить сотрудников раскрыть конфиденциальную информацию.
Предприятия и государственные учреждения вскоре могут столкнуться с целыми роями систем, работающих на основе искусственного интеллекта, которые способны обнаруживать слабые места в компьютерных сетях, а затем планировать и осуществлять атаки практически без участия человека.
Технологии меняют способы действий преступников в интернете. Элис Марвик возглавляет исследовательский отдел в Data & Society,dent организации, занимающейся исследованиями в области технологий. В интервью Wall Street Journal она заявила, что самые большие изменения касаются масштаба и охвата. «Реальные изменения касаются масштаба и размаха. Мошенничество стало масштабнее, целенаправленнее и убедительнее»
Брайан Сингер —dent Университета Карнеги-Меллона. Он изучает, как большие языковые модели используются в кибератаках и системах защиты. По его оценкам, от половины до трех четвертей спама и фишинговых сообщений в мире сейчас поступают от систем искусственного интеллекта.
Сами атаки стали более правдоподобными. Системы искусственного интеллекта, обученные на корпоративных сообщениях, могут создавать тысячи сообщений, которые звучат естественно и соответствуют стилю компании. Они копируют манеру письма руководителей. Они упоминают последние новости, найденные в открытых источниках.
Эта технология также помогает зарубежным мошенникам скрывать языковые ошибки, которые раньше делали их попытки очевидными. Преступники могут выдавать себя за жертв с помощью поддельных видеороликов и скопированных голосов. Они используют одну и ту же поддельную личностьdentчтобы обмануть сразу нескольких человек.
Джон Халтквист — главный аналитик Google Threat Intelligence Group. Он описывает главный сдвиг как «повышение доверия в масштабах всей отрасли»
Злоумышленники также стали лучше выбирать жертв. Они используют искусственный интеллект для поиска людей в социальных сетях, переживающих серьезные жизненные трудности: развод, смерть близких, потеря работы и ситуации, которые могут сделать человека более уязвимым для мошенничества в личной жизни, инвестиционных афер или фальшивых предложений о работе.
Рынки даркнета имеют более низкий порог входа
Порог входа для киберпреступлений снизился. Подпольные рынки теперь продают или сдают в аренду инструменты искусственного интеллекта для криминальной деятельности всего за 90 долларов в месяц. Николас Кристин возглавляет отдел программного обеспечения и социальных систем в Университете Карнеги-Меллона.
Он сказал, что эти платформы предлагают разные уровни цен и поддержки клиентов. «Разработчики продают подписки, чтобы атаковать платформы с многоуровневой системой ценообразования и поддержки клиентов»
Эти сервисы известны под такими названиями, как WormGPT, FraudGPT и DarkGPT. Они могут создавать вредоносное программное обеспечение и проводить фишинговые кампании. Некоторые из них даже включают обучающие материалы по методам взлома.
Маргарет Каннингем — вице-dent по стратегии безопасности и искусственного интеллекта в компанииtrac, занимающейся вопросами безопасности. Она говорит, что все просто: «Вам не нужно уметь программировать, достаточно знать, где найти инструмент»
Недавно появилась разработка под названием vibevibevibe vibevibevibevibe vibevibe-hacking. Она может позволить начинающим преступникам использовать ИИ для создания собственных вредоносных программ, вместо того чтобы покупать их у подпольщиков. Ранее в этом году компания Anthropic сообщила , что пресекла несколько попыток использования своего ИИ Claude для создания программ-вымогателей со стороны «преступников с недостаточными техническими навыками».
Сами преступные операции меняются. По мнению экспертов, киберпреступность уже много лет функционирует как рыночная площадка. Типичная операция по распространению программ-вымогателей включает в себя различные группы. Брокеры доступа, которые взламывают корпоративные сети и продают доступ. Группы хакеров, которые перемещаются по системам, похищая данные. И поставщики услуг по распространению программ-вымогателей, которые выпускают вредоносное ПО, ведут переговоры и делят деньги.
Скорость и автоматизация меняют структуру криминальных сетей
Искусственный интеллект увеличил скорость, масштаб и доступность этой системы. Работа, ранее выполняемая людьми с техническими знаниями, теперь может выполняться автоматическиmaticЭто позволяет этим группам работать с меньшим количеством людей, с меньшим риском и с большей прибылью. «Представьте это как следующий этап индустриализации. ИИ увеличивает производительность без необходимости привлечения более квалифицированной рабочей силы», — объясняет Кристин.
Может ли ИИ самостоятельно совершать атаки? Пока нет. Эксперты сравнивают эту ситуацию с разработкой полностью беспилотных автомобилей. Первые 95% уже достигнуты. Но последняя часть, которая позволила бы автомобилю ездить куда угодно и когда угодно самостоятельно, остается недостижимой.
Исследователи тестируют возможности ИИ по взлому в лабораторных условиях. Команда из Университета Карнеги-Меллона при поддержке Anthropic воссоздала знаменитую утечку данных Equifax с помощью ИИ. Сингер руководил работой в Институте безопасности и конфиденциальности CyLab при Университете Карнеги-Меллона. Он называет это «большим шагом вперед».
Преступники используют ИИ в вредоносных целях. Но компании, занимающиеся разработкой ИИ, утверждают, что те же инструменты могут помочь организациям укрепить свою цифровую защиту.
Anthropic и OpenAI разрабатывают системы искусственного интеллекта, способные непрерывно анализировать программный код для выявления уязвимостей, которые могут быть использованы преступниками. Однако любые исправления по-прежнему должны быть одобрены пользователями. Недавно разработанная исследователями из Стэнфорда программа искусственного интеллекта показала лучшие результаты, чем некоторые тестировщики-люди, при поиске проблем безопасности в сети.
Даже искусственный интеллект не сможет предотвратить все утечки данных. Именно поэтому организациям необходимо сосредоточиться на создании надежных сетей, которые продолжают работать во время атак, говорит Халтквист.
