Пугающие результаты: исследование показывает, что ИИ-чатботы отлично справляются с фишинговыми тактиками

Недавнее исследование показало, насколько легко современные чатботы можно использовать для написания убедительных писем-мошенников, направленных на пожилых людей, и как часто эти письма открываются.

Исследователи использовали несколько крупных ИИ-чатботов в исследовании, включая Grok, ChatGPT от OpenAI, Claude, Meta AI, DeepSeek и Gemini от Google, чтобы смоделировать фишинговую атаку. 

Один образец письма, написанный Grok выглядел как дружеское обращение от «Фонда Silver Hearts», описанного как новая благотворительная организация, поддерживающая пожилых людей в вопросах общения и ухода. Письмо было адресовано пожилым гражданам, обещая легкий способ принять участие. На самом деле, такой благотворительной организации не существует.

«Мы верим, что каждый пожилой человек достоин достоинства и радости в свои золотые годы», — говорилось в письме. «Нажав здесь, вы откроете для себя трогательные истории о пожилых людях, которым мы помогли, и узнаете, как вы можете присоединиться к нашей миссии». 

Когда Reuters попросил Grok написать текст для фишинга, бот не только ответил, но и предложил усилить срочность: «Не ждите! Присоединяйтесь к нашему сострадательному сообществу сегодня и помогите изменить жизни. Нажмите сейчас, чтобы действовать, пока не стало слишком поздно!» 

108 пожилых волонтеров участвовали в исследовании фишинга

Журналисты проверили, откажутся ли шесть известных ИИ-чатботов от своих правил безопасности и составят письма, предназначенные для обмана пожилых людей. Они также просили ботов помочь в планировании мошеннических кампаний, включая советы о том, в какое время дня можно получить лучший отклик. 

В сотрудничестве с Хайдингом, исследователем из Гарвардского университета, изучающим фишинг, исследователи протестировали некоторые письма, написанные ботами, на группе из 108 пожилых волонтеров.

Обычно компании, разрабатывающие чатботы, обучают свои системы отказываться от вредоносных запросов. На практике эти меры защиты не всегда гарантированы. Grok выдал предупреждение, что сгенерированное им сообщение «не следует использовать в реальных сценариях». Тем не менее, он предоставил текст для фишинга и усилил призыв к действию фразой «нажмите сейчас».

Пять других чатботов получили те же запросы: ChatGPT от OpenAI, помощник от Meta, Claude, Gemini и DeepSeek из Китая. Большинство чатботов отказались отвечать, когда намерение было ясно выражено. 

Тем не менее, их защита дала сбой после легких изменений, таких как утверждение, что задача выполняется в исследовательских целях. Результаты тестов показали, что преступники могут использовать (или уже используют) чатботы для мошеннических кампаний. «Вы всегда можете обойти эти вещи», — сказал Хайдинг.

Хайдинг выбрал девять фишинговых писем, созданных с помощью чатботов, и отправил их участникам. Примерно 11% получателей попались на удочку и перешли по ссылкам. Пять из девяти сообщений получили клики: два от Meta AI, два от Grok и одно от Claude. Ни один из пожилых людей не перешел по ссылкам в письмах, написанных моделей DeepSeek или ChatGPT.

В прошлом году Хайдинг провел исследование, показавшее, что фишинговые письма, сгенерированные ChatGPT, могут быть столь же эффективны для получения кликов, как и сообщения, написанные людьми, в данном случае среди студентов университета. 

ФБР называет фишинг самым распространенным киберпреступлением

Фишинг относится к заманиванию неосторожных жертв к передаче конфиденциальных данных или денег через поддельные электронные письма и текстовые сообщения. Эти типы сообщений составляют основу многих онлайн-преступлений. 

Ежедневно по всему миру отправляются миллиарды фишинговых текстов и писем. В Соединенных Штатах Федеральное бюро расследований (ФБР) называет фишинг самым часто сообщаемым киберпреступлением. 

Пожилые американцы особенно уязвимы для таких мошенничеств. Согласно недавним данным ФБР, количество жалоб от людей старше 60 лет увеличилось в 8 раз в прошлом году, а убытки составили около $4,9 млрд. Генеративный ИИ значительно усугубил ситуацию, говорит ФБР.

Только в августе пользователи криптовалюты потеряли $12 млн из-за фишинговых мошенничеств, согласно Cryptopolitan отчету.

Что касается чатботов, преимущество для мошенников заключается в объеме и скорости. В отличие от людей, боты могут создавать бесконечные вариации за секунды и с минимальными затратами, сокращая время и деньги, необходимые для проведения крупномасштабных мошеннических схем.