Возрастающая угроза хакерских атак и дезинформации на базе ИИ, предупреждает глава кибербезопасности Канады

Глава Канадского центра кибербезопасности Сами Хури выпустил предупреждение о тревожном использовании искусственного интеллекта (ИИ) хакерами и пропагандистами. По словам Хури, ИИ используется для создания вредоносного программного обеспечения, сложных фишинговых писем и распространения дезинформации в сети. Тревожное развитие событий проливает свет на то, как злоумышленники используют новые технологии для продвижения своей киберпреступной деятельности.

Дезинформация — это информация, которая намеренно ложна и предназначена для введения в заблуждение, подобно пропагандистским материалам, выпускаемым властями для СМИ. Ошибочная информация (misinformation) — это информация, неточность которой является непреднамеренной, например, факты, сообщенные по ошибке. Ошибочная информация распространяется, потому что репортеры не проверяют источники. Дезинформация опасна, потому что авторитет, выпустивший информацию, мог ее сфабриковать. Сообщается, что ИИ используется «более целенаправленно, в вредоносном коде (и) в дезинформации и дезинформации».

Обеспокоенность и отчеты кибернадзорных органов

Заставляющие задуматься утверждения Хури тесно согласуются с растущей обеспокоенностью, выраженной различными группами кибернадзора. Эти отчеты бьют тревогу по поводу гипотетических рисков, связанных с быстрым развитием ИИ, особенно в отношении больших языковых моделей (LLM), которые используют огромные массивы текста для создания поразительно реалистично звучащих диалогов и документов. В всеобъемлющем отчете Европола, например, прямо указывался потенциал LLM, таких как ChatGPT от OpenAI, для искусной имитации организаций или отдельных лиц, что повышает ставки потенциальных киберугроз.

Аналогичным образом, Британский национальный центр кибербезопасности в блоге выразил обоснованные опасения относительно потенциального злоупотребления большими языковыми моделями (LLM), намекая на возможность того, что преступники могут использовать эти мощные инструменты на базе ИИ для усиления своих текущих кибератак, тем самым увеличивая риски как для организаций, так и для частных лиц.

На фоне непрерывно развивающейся технологической революции, охватывающей Кремниевую долину, темная изнанка искусственного интеллекта постепенно выходит на первый план, при этом киберпреступники хитро используют его мощные возможности в своих злонамеренных целях. Самми Хури, глава Канадского центра кибербезопасности, призвал к бдительности, заявив, что ИИ больше не является лишь инструментом в руках исследователей и новаторов, но превратился в оружие, используемое киберпреступниками в их злонамеренных действиях. 

Ранние данные рисуют тревожную картину: ИИ становится ключевым элементом в создании коварных фишинговых писем, распространении дезинформации и фейков для посева хаоса, а также в разработке вредоносного кода для обеспечения сложных кибератак. Последствия этой темной трансформации вызывают опасения по поводу растущих угроз, с которыми сталкивается мир в сфере киберпреступности с использованием ИИ.

Кибератаки на базе ИИ proliferate

В сфере кибербезопасности усердные исследователи раскрыли огромный потенциал злонамеренного применения ИИ, представив несколько вероятных сценариев, при которых ИИ может быть использован в качестве оружия для таких целей, как распространение дезинформации. То, что раньше казалось теоретическими опасениями, теперь превратилось в тревожную реальность, поскольку подозреваемый контент, созданный ИИ, начинает появляться в реальных условиях. 

Признания бывшего хакера еще больше усилили тревогу, когда он сообщил о своем открытии LLM, обученной на злонамеренных материалах, иRemarkably использовал ее для создания высокоубедительного письма с требованием срочного перевода денежных средств. Сложность, продемонстрированная этим сообщением, созданным ИИ, подчеркивает развивающиеся возможности моделей ИИ, вызывая обеспокоенность среди экспертов по кибербезопасности относительно далеко идущих последствий, которые могут возникнуть, когда эти инструменты ИИ будут выпущены в цифровое пространство.

Хотя использование ИИ для создания вредоносного кода остается относительно новым, глубокая обеспокоенность Хури обоснована, учитывая стремительные темпы развития моделей ИИ. Непрерывное совершенствование технологий ИИ представляет собой существенную проблему для эффективного мониторинга и оценки их полного потенциала злонамеренного использования до того, как они будут выпущены в широкое пользование. 

По мере того как киберсообщество пытается справиться с этими неопределенностями, возникают вопросы о траектории злонамеренного применения ИИ и серьезных угрозах, которые он может представлять для кибербезопасности в обозримом будущем. Необходимость решения этих проблем становится все более насущной, поскольку сфера киберпреступности с использованием ИИ продолжает развиваться вместе с быстрыми достижениями в технологии ИИ.

Срочные опасения по поводу кибератак на базе ИИ

Появление кибератак на базе ИИ вызвало срочные опасения среди экспертов по кибербезопасности. Поскольку модели ИИ быстро развиваются, страх перед неизвестными угрозами, скрывающимися за углом, усиливается. Возможность создания убедительных фишинговых писем и генерации сложной дезинформации создает значительные проблемы для киберзащиты.

По мере того как киберпреступники используют ИИ для своей злонамеренной деятельности, ландшафт кибербезопасности превращается в поле битвы непрерывной гонки вооружений в сфере ИИ. Исследователи и специалисты по кибербезопасности стоят перед задачей опережать злонамеренные разработки в области ИИ, разрабатывать эффективные контрмеры и защищаться от потенциальных последствий хакерских атак и кампаний дезинформации, управляемых ИИ.