Темная сторона ИИ: как ChatGPT и инструменты генеративного ИИ подпитывают кибератаки

В последнее время в мире технологий активно обсуждают возможности ChatGPT, чат-бота на основе искусственного интеллекта, разработанного компанией OpenAI. Этот универсальный инструмент заслужил похвалу за способность генерировать убедительный текст и даже функциональный код. Однако, по мере развития технологий, совершенствуются и методы злоумышленников, и возможности ChatGPT не застрахованы от использования кибератаками.

Инструменты генеративного ИИ, такие как ChatGPT, стали палкой о двух концах. Хотя они предоставляют пользователям впечатляющие возможности, они также дают злоумышленникам мощный инструмент для создания убедительных сценариев и кода, включая атаки с использованием социальной инженерии. Это вызывает опасения по поводу влияния этой новой категории инструментов на кибератаки, особенно те, которые связаны с социальной инженерией.

Эпоха безупречной социальной инженерии

Раньше плохо составленные илиmaticнекорректные электронные письма часто являлись явными признаками фишинговых атак. Обучение основам кибербезопасности акцентировалоdentна выявлении таких аномалий для предотвращения потенциальных угроз. Однако появление ChatGPT изменило правила игры. Даже люди с ограниченным знанием английского языка теперь могут создавать безупречные, убедительные сообщения на безупречном английском, что делает обнаружение попыток социальной инженерии все более сложной задачей.

OpenAI внедрила в ChatGPT ряд мер защиты от злоупотреблений, но эти барьеры не являются непреодолимыми, особенно в целях социальной инженерии. Злоумышленники могут поручить ChatGPT генерировать мошеннические электронные письма, которые затем могут быть отправлены с прикрепленными вредоносными ссылками или запросами. Этот процесс удивительно эффективен: ChatGPT быстро создает электронные письма, как профессионал, что демонстрируется на примере письма, созданного по запросу.

Результаты исследования Darktracи рост числа атак с использованием искусственного интеллекта в целях социальной инженерии

Компания Darktrac, специализирующаяся на кибербезопасности, сообщает о резком росте атак с использованием методов социальной инженерии на основе искусственного интеллекта, связывая эту тенденцию с ChatGPT и аналогичными инструментами. Эти атаки становятся все более изощренными: фишинговые письма становятся длиннее, лучше структурированы и убедительнее. Тон ChatGPT по умолчанию имитирует корпоративную коммуникацию, что еще больше затрудняет распознавание вредоносных сообщений.

Кривая обучения преступников

Киберпреступники быстро учатся. Сообщается, что на форумах в даркнете теперь обсуждаются способы использования ChatGPT для социальной инженерии, при этом преступники из стран, где эта технология не поддерживается, находят способы обойти ограничения и использовать её возможности. ChatGPT позволяет злоумышленникам генерировать множество уникальных сообщений, обходя спам-фильтры, которые ищут повторяющийся контент. Более того, она способствует созданию полиморфного вредоносного ПО, что затрудняет его обнаружение.

Хотя ChatGPT в основном ориентирован на письменное общение, другие инструменты искусственного интеллекта могут генерировать реалистичные произнесенные слова, имитирующие речь конкретных людей. Эта возможность имитации голоса открывает двери для телефонных звонков, убедительно имитирующих высокопоставленных лиц. Такой двухэтапный подход — заслуживающие доверия электронные письма, за которыми следуют голосовые звонки — добавляет уровень обмана к атакам с использованием методов социальной инженерии.

Эксплуатация соискателей работы и поддельных инструментов ChatGPT

ChatGPT не ограничивается созданием электронных писем; он может генерировать сопроводительные письма и резюме в больших масштабах, обманывая соискателей работы. Кроме того, мошенники наживаются на популярности ChatGPT, создавая поддельные веб-сайты чат-ботов, которые якобы основаны на моделях OpenAI. На самом деле эти сайты стремятся украсть деньги и собрать личные данные.

Защита от атак с использованием искусственного интеллекта

Поскольку атаки с использованием искусственного интеллекта становятся все более распространенными, организациям необходимо адаптироваться к меняющемуся ландшафту угроз:

1. Включите контент, сгенерированный ИИ, в симуляции фишинговых атак, чтобы ознакомить сотрудников с стилями общения, созданными ИИ.

2. Интегрировать обучение основам генеративного ИИ в программы кибербезопасности, подчеркнув, как можно использовать ChatGPT и аналогичные инструменты в своих целях.

3. Используйте инструменты кибербезопасности на основе ИИ, которые применяют машинное обучение и обработку естественного языка для обнаружения угроз и пометки подозрительных сообщений для проверки человеком.

4. Используйте инструменты на основе ChatGPT дляdentэлектронных писем, написанных генеративным ИИ, что обеспечит дополнительный уровень безопасности.

5. Всегда проверяйте подлинность отправителей в электронных письмах, чатах и ​​текстовых сообщениях.

6. Поддерживайте открытую коммуникацию с коллегами по отрасли и будьте в курсе новых мошеннических схем.

7. Придерживайтесь подхода «нулевого доверия» в сфере кибербезопасности, предполагая, что угрозы могут исходить как из внутренних, так и из внешних источников.

ChatGPT — это лишь верхушка айсберга, и вскоре, вероятно, появятся аналогичные чат-боты, потенциально пригодные для использования в атаках с применением социальной инженерии. Хотя эти инструменты ИИ предлагают значительные преимущества, они также несут существенные риски. Бдительность, обучение и передовые меры кибербезопасности необходимы для того, чтобы оставаться впереди в продолжающейся борьбе с киберугрозами, использующими ИИ.