ФБР предупреждает о всплеске вредоносного ПО на базе ИИ: хакеры используют ChatGPT

ФБР выразило обеспокоенность по поводу растущего использования хакерами инструментов генеративного искусственного интеллекта, таких как ChatGPT, для создания вредоносного кода и быстрого совершения киберпреступлений. Эта тревожная тенденция использования вредоносного ПО на базе ИИ позволила злоумышленникам заниматься незаконной деятельностью — от совершенствования методов мошенничества до планирования разрушительных химических атак. Несмотря на разногласия среди киберэкспертов, ФБР утверждает, что по мере роста внедрения моделей ИИ будет расти и угроза, исходящая от вредоносного ПО на базе ИИ.

Возникновение вредоносного ПО на базе ИИ

В беседе с журналистами ФБР недавно сообщило, что хакеры используют технологии ИИ, такие как ChatGPT, для оптимизации своей преступной деятельности. Ожидается, что эти тенденции будут усиливаться по мере демократизации моделей ИИ. Хакеры эксплуатируют чат-боты ИИ для совершения различных незаконных действий, включая мошенничество с использованием генераторов голоса ИИ для имитации доверенных контактов.

Универсальность таких инструментов ИИ, как ChatGPT, привела к их злонамеренному использованию. В феврале 2023 года компания по кибербезопасности Checkpoint обнаружила, что хакеры манипулировали API чат-бота, что позволяло им легко генерировать код вредоносного ПО. Это развитие событий сделало возможность создания вирусов доступной почти для любого начинающего хакера, вызвав опасения относительно потенциального масштаба и воздействия атак вредоносного ПО, подпитываемого ИИ.

Дебаты об уровне угрозы

Хотя ФБР серьёзно обеспокоено опасностями, исходящими от вредоносного ПО на базе ИИ, некоторые киберэксперты утверждают, что угроза может быть преувеличена. Они утверждают, что большинство хакеров по-прежнему полагаются на традиционные утечки данных и исследования с открытым исходным кодом для поиска более эффективных уязвимостей в коде. Мартин Зугец, директор по техническим решениям в Bitdefender, считает, что новички не обладают навыками, необходимыми для обхода мер защиты чат-ботов от вредоносного ПО, а качество кода вредоносного ПО, генерируемого чат-ботами, как правило, низкое.

OpenAI, создатель ChatGPT, недавно прекратила работу своего инструмента обнаружения плагиата, предназначенного для выявления контента, сгенерированного чат-ботами. Этот шаг вызвал удивление и заставил некоторых усомниться в приверженности платформы борьбе с misuse ИИ. Без эффективных проверок остаётся проблемой возможность использования хакерами инструментов на базе ИИ в злонамеренных целях.

Непрерывная борьба с вредоносным ПО на базе ИИ

По мере продолжения дебатов об угрозе вредоносного ПО на базе ИИ, власти и эксперты по кибербезопасности сталкиваются с непростой задачей защиты цифровых экосистем. Предупреждения ФБР подчёркивают срочность принятия надёжных мер для противодействия потенциальным последствиям киберпреступности, движимой ИИ. Балансирование между поощрением инноваций в области ИИ и предотвращением его злоупотреблений стало первостепенной задачей.

Обеспокоенность ФБР по поводу растущего использования таких инструментов на базе ИИ, как ChatGPT, для облегчения киберпреступности, подчёркивает необходимость бдительности и проактивных мер для борьбы с этой новой угрозой. Хотя мнения об уровне опасности среди киберэкспертов различаются, потенциальные последствия атак вредоносного ПО, подпитываемого ИИ, требуют тщательного рассмотрения. По мере развития технологий организации, правительства и разработчики ИИ должны сотрудничать в создании эффективных мер защиты от злонамеренного использования. Только такими коллективными усилиями мы можем обеспечить более безопасную цифровую среду для всех.