Темная сторона ИИ: как ChatGPT и инструменты генеративного ИИ подпитывают кибератаки

Недавно технологический мир был взбудоражен возможностями ChatGPT, чат-бота на базе ИИ, разработанного компанией OpenAI. Этот универсальный инструмент получил высокие оценки за способность генерировать убедительные тексты и даже функциональный код. Однако по мере развития технологий развиваются и методы злоумышленников, и мастерство ChatGPT не застраховано от эксплуатации киберпреступниками.

Инструменты генеративного ИИ, такие как ChatGPT, стали обоюдоострым мечом. Хотя они наделяют пользователей впечатляющими возможностями, они также предоставляют злоумышленникам мощный инструмент для создания убедительных нарративов и кода, включая атаки социальной инженерии. Это вызывает опасения по поводу влияния этой новой категории инструментов на кибератаки, особенно тех, которые связаны с социальной инженерией.

Эра безупречной социальной инженерии

В прошлом плохо сформулированные или грамматически неверные электронные письма часто были явными признаками фишинговых попыток. Обучение по кибербезопасности подчеркивало важность выявления таких аномалий для предотвращения потенциальных угроз. Однако появление ChatGPT изменило правила игры. Даже люди с ограниченным знанием английского языка теперь могут создавать безупречные, убедительные сообщения на идеальном английском, что делает обнаружение попыток социальной инженерии все более сложной задачей.

OpenAI внедрила некоторые меры предосторожности в ChatGPT для предотвращения злоупотреблений, но эти барьеры не являются непреодолимыми, особенно для целей социальной инженерии. Злоумышленники могут инструктировать ChatGPT генерировать мошеннические письма, которые затем могут быть отправлены с вредоносными ссылками или запросами. Процесс удивительно эффективен: ChatGPT быстро создает письма, как профессионал, что демонстрируется в примере письма, созданного по запросу.

Выводы Darktrace и рост атак социальной инженерии на базе ИИ

Компания по кибербезопасности Darktrace сообщает о всплеске атак социальной инженерии на базе ИИ, связывая эту тенденцию с ChatGPT и подобными инструментами. Эти атаки становятся более изощренными: фишинговые письма становятся длиннее, лучше пунктуированы и более убедительны. Тон по умолчанию ChatGPT имитирует корпоративную коммуникацию, что делает еще труднее отличить вредоносные сообщения.

Кривая обучения преступников

Киберпреступники быстро учатся. Сообщается, что на форумах даркнета теперь обсуждают использование ChatGPT для социальной инженерии, причем преступники в странах, не поддерживаемых официально, находят способы обойти ограничения и использовать его возможности. ChatGPT позволяет злоумышленникам генерировать множество уникальных сообщений, избегая спам-фильтров, которые ищут повторяющийся контент. Кроме того, он помогает создавать полиморфное вредоносное ПО, что затрудняет его обнаружение.

Хотя ChatGPT в основном фокусируется на текстовой коммуникации, другие инструменты ИИ могут генерировать реалистичную речь, имитирующую конкретных людей. Эта способность к подражанию голосу открывает двери для телефонных звонков, которые убедительно имитируют высокопоставленных лиц. Этот двухсторонний подход — достоверные электронные письма, за которыми следуют голосовые звонки — добавляет слой обмана к атакам социальной инженерии.

Эксплуатация соискателей и поддельные инструменты ChatGPT

ChatGPT не ограничивается созданием писем; он может в больших объемах генерировать сопроводительные письма и резюме, эксплуатируя соискателей в мошеннических схемах. Кроме того, мошенники пользуются ажиотажем вокруг ChatGPT, создавая поддельные сайты чат-ботов, которые утверждают, что основаны на моделях OpenAI. Эти сайты на самом деле направлены на кражу денег и сбор персональных данных.

Защита от атак, усиленных ИИ

По мере того как атаки, усиленные ИИ, становятся более распространенными, организации должны адаптироваться к этой меняющейся ландшафту угроз:

1. Включайте контент, сгенерированный ИИ, в симуляции фишинга, чтобы познакомить сотрудников со стилями коммуникации, созданными ИИ.

2. Интегрируйте обучение по осведомленности о генеративном ИИ в программы кибербезопасности, подчеркивая, как ChatGPT и подобные инструменты могут быть использованы во вред.

3. Используйте инструменты кибербезопасности на базе ИИ, которые применяют машинное обучение и обработку естественного языка для обнаружения угроз и маркировки подозрительных сообщений для проверки человеком.

4. Используйте инструменты на базе ChatGPT для выявления писем, написанных генеративным ИИ, добавляя дополнительный уровень безопасности.

5. Всегда проверяйте подлинность отправителей в электронных письмах, чатах и текстовых сообщениях.

6. Поддерживайте открытую коммуникацию с коллегами по отрасли и будьте в курсе новых мошеннических схем.

7. Примите подход нулевого доверия к кибербезопасности, предполагая, что угрозы могут исходить как из внутренних, так и из внешних источников.

ChatGPT — это лишь верхушка айсберга, и вскоре могут появиться подобные чат-боты, потенциально пригодные для эксплуатации в атаках социальной инженерии. Хотя эти инструменты ИИ предлагают значительные преимущества, они также несут существенные риски. Бдительность, образование и передовые меры кибербезопасности необходимы, чтобы оставаться на шаг впереди в постоянной борьбе с киберугрозами, усиленными ИИ.