В Китае произведены первые аресты по делу о кибератаке с использованием программы-вымогателя ChatGPT

Недавноdentкомпания в Ханчжоу, Китай, стала жертвой атаки программы-вымогателя, совершенной с использованием ChatGPT, что привело к первым в стране арестам, связанным с этим чат-ботом с искусственным интеллектом.

Китайские власти сообщили о задержании в конце прошлого месяца четырех киберпреступников – двоих в Пекине и двоих во Внутренней Монголии. Подозреваемые признались в использовании ChatGPT для оптимизации кода программ-вымогателей, проведения сканирования сети, проникновения в системы, развертывания вредоносного ПО и вымогательства денег.

В результате атаки сети компании были заблокированы программой-вымогателем, и преступники потребовали 20 000 криптовалюты Tether для восстановления доступа.

Использование программ-вымогателей растёт

Программы-вымогатели быстро стали одной из самых серьезных киберугроз, с которыми сталкиваются правительства, предприятия и частные лица по всему миру. Это вредоносное программное обеспечение шифрует файлы и системы, делая их недоступными до тех пор, пока не будет выплачен выкуп.

Ущерб от программ-вымогателей в 2021 году во всем мире превысил 20 миллиардов долларов. В одном только Китае количество атак увеличилось на 13%, и киберпреступники получили более 1,6 миллиарда долларов в виде вымогательских платежей.

Эти аресты знаменуют собой первый случай, когда ChatGPT был замешан в деле о китайском вирусе-вымогателе. Однако сам чат-бот, вероятно, не принимал непосредственного участия в атаке.

Вместо этого обвиняемый признался в использовании возможностей ChatGPT по обработке естественного языка для оптимизации кода своего вредоносного ПО. Разговорный характер ИИ позволяет легко совершенствовать программы-вымогатели, предоставляя обратную связь и предложения.

Доступ к ChatGPT в Китае ограничен

Несмотря на огромную популярность во всем мире, ChatGPT сталкивается с ограничениями в Китае. Компания OpenAI, его разработчик, заблокировала доступ к чат-боту с IP-адресов материкового Китая.

Некоторые пользователи обходят ограничения, используя VPN-сервисы, зарегистрированные за пределами Китая. Однако юридические риски для компаний, предоставляющих такие услуги, остаются неясными.

Власти предупредили, что ChatGPT потенциально может «совершать преступления и распространять слухи», если получит широкое распространение. Однако интерес к ИИ остается высоким, и технологические компании спешат разработать конкурентов прорывному продукту OpenAI.

Генеративный искусственный интеллект также позволяет создавать убедительные дипфейки, с которыми китайская полиция столкнулась этим летом в ходе борьбы с мошенничеством с кредитами. Учитываяdentриски, связанные с этой технологией, регулирующие органы по всему миру оценивают наилучшие способы реагирования.

Опасения по поводу вредоносного ПО, написанного с помощью ИИ

ChatGPT завоевал популярность благодаря своему разговорному тону и красноречивым, человекоподобным ответам на большинство тем. Но его продвинутые языковые возможности также делают его опасно эффективным для злонамеренных целей, таких как оптимизация вредоносного ПО.

Исследователи в области кибербезопасности выявили, насколько легко ChatGPT генерировал поддельные фишинговые страницы, вредоносный компьютерный код и другие угрозы. С помощью простых подсказок ИИ создает сложные программы-вымогатели, разработанные для того, чтобы избежать обнаружения.

А чат-боты, такие как ChatGPT, никогда не забывают то, чему научились. Накопленные знания еще больше совершенствуют их навыки в программировании вредоносного ПО, взломе систем и обмане целей.

Генеративная природа ИИ создает более широкие риски

Помимо уязвимостей программного обеспечения, чат-боты с искусственным интеллектом также создают риски, связанные с дезинформацией. Их убедительный, похожий на человеческий, текст может наводнить социальные сети и веб-сайты ложной информацией, которая выглядит правдоподобно.

Генеративный ИИ также позволяет создавать дипфейки аудио/видеоматериалов и клонированные голоса в мошеннических целях. Мошенничество с использованием поддельных имен и фальсификация медиаконтента со знаменитостями представляют серьезную угрозу по мере развития этой технологии.

Кроме того, сохраняются юридические и этические проблемы, связанные с наборами данных для обучения ИИ и правом собственности на них. Такие системы, как ChatGPT, без согласия пользователей используют огромные массивы защищенных авторским правом книг, статей, песен, изображений и другого контента.

По мере экспоненциального роста возможностей генеративного ИИ, его потенциальный вред в чужих руках также продолжает расти. Однако тщательное регулирование и бдительность в сфере кибербезопасности могут помочь смягчить возникающие угрозы