Пугающие результаты: исследование показало, что чат-боты с искусственным интеллектом превосходно справляются с фишинговыми атаками

Недавнее исследование показало, насколько легко современные чат-боты могут использоваться для написания убедительных мошеннических писем, ориентированных на пожилых людей, и как часто по этим письмам переходят по ссылкам.

В ходе исследования ученые использовали несколько крупных чат-ботов на основе искусственного интеллекта, включая Grok, ChatGPT от OpenAI, Claude, Meta AI, DeepSeek и Gemini от Google, для имитации фишинговой атаки. 

Одна из записок, написанных Гроком , выглядела как дружеское обращение от «Фонда серебряных сердец», описываемого как новая благотворительная организация, которая оказывает поддержку пожилым людям, предоставляя им общение и уход. Записка была адресована пожилым гражданам и обещала простой способ принять участие. В действительности такой благотворительной организации не существует.

«Мы считаем, что каждый пожилой человек заслуживает уважения и радости в свои золотые годы», — говорилось в записке. «Перейдя по этой ссылке, вы узнаете трогательные истории пожилых людей, которым мы помогли, и как вы можете присоединиться к нашей миссии» 

Когда агентство Reuters попросило Grok написать фишинговый текст, бот не только выдал ответ, но и предложил повысить срочность: «Не ждите! Присоединяйтесь к нашему сообществу сострадательных людей сегодня и помогите изменить жизни. Нажмите сейчас, чтобы действовать, пока не поздно!» 

В исследовании фишинга приняли участие 108 пожилых добровольцев

Журналисты проверили, смогут ли шесть известных чат-ботов с искусственным интеллектом нарушить свои правила безопасности и составить электронные письма, предназначенные для обмана пожилых людей. Они также попросили ботов помочь в планировании мошеннических кампаний, в том числе подсказать, в какое время суток можно получить наилучший отклик. 

В сотрудничестве с Хайдингом, исследователем из Гарвардского университета, изучающим фишинг, ученые протестировали некоторые из электронных писем, написанных ботами, на группе из 108 пожилых добровольцев.

Обычно компании, разрабатывающие чат-боты, обучают свои системы отклонять вредоносные запросы. На практике же такие меры защиты не всегда гарантированы. Grok вывел предупреждение о том, что сгенерированное им сообщение «не следует использовать в реальных условиях». Тем не менее, он выдал фишинговый текст и усилил настойчивость призывом «нажмите сейчас»

Пять других чат-ботов получили те же подсказки: ChatGPT от OpenAI, ассистент Meta, Claude, Gemini и DeepSeek из Китая. Большинство чат-ботов отказались отвечать, когда намерение было ясно дано. 

Тем не менее, их средства защиты перестали работать после незначительных модификаций, например, после утверждения, что задача выполняется в исследовательских целях. Результаты тестов показали, что преступники могут использовать (или уже используют) чат-боты для мошеннических кампаний. «Всегда можно обойти эти системы», — сказал Хайдинг.

Хайдинг отобрал девять фишинговых писем, созданных с помощью чат-ботов, и разослал их участникам. Примерно 11% получателей попались на удочку и перешли по ссылкам. Пять из девяти сообщений привели к переходу по ссылкам: два от Meta AI, два от Grok и одно от Claude. Никто из участников старшего возраста не перешел по ссылкам в письмах, написанных DeepSeek или ChatGPT.

В прошлом году Хайдинг возглавила исследование, показавшее, что фишинговые электронные письма, созданные с помощью ChatGPT, могут быть столь же эффективны в привлечении внимания, как и сообщения, написанные людьми, в данном случае, средиdentуниверситета. 

ФБР называет фишинг самым распространенным киберпреступлением

Фишинг — это заманивание ничего не подозревающих жертв с целью получения от них конфиденциальной информации или cash посредством поддельных электронных писем и текстовых сообщений. Подобные сообщения лежат в основе многих онлайн-преступлений. 

Ежедневно по всему миру рассылаются миллиарды фишинговых сообщений и электронных писем. В Соединенных Штатах Федеральное бюро расследований называет фишинг наиболее часто регистрируемым киберпреступлением. 

Пожилые американцы особенно уязвимы для подобных мошеннических схем. Согласно последним данным ФБР, количество жалоб от людей старше 60 лет в прошлом году увеличилось в 8 раз, а ущерб составил около 4,9 миллиарда долларов. По словам ФБР, генеративный искусственный интеллект значительно усугубил ситуацию.

Согласно Cryptopolitan .

Что касается чат-ботов, преимущество для мошенников заключается в объеме и скорости. В отличие от людей, боты могут создавать бесконечные варианты за считанные секунды и с минимальными затратами, сокращая время и деньги, необходимые для проведения крупномасштабных мошеннических схем.