Хакеры от государств-наций не смогли получить преимущество с помощью ИИ, показывает отчет OpenAI

Технологические компании и государственные чиновники сохранить предупреждают об искусственном интеллекте как об опасном оружии для иностранных врагов, но новые доказательства рассказывают другую историю. Недавние отчеты показывают, что группы, спонсируемые государством, используют те же общедоступные инструменты, что и обычные пользователи интернета, и часто сталкиваются с такими же трудностями.

OpenAI недавно поделился деталями о том, как группы, связанные с правительством, пытались использовать их платформы.

Самый заметный случай произошел из китайской кампании влияния, которая была случайно раскрыта, когда китайский сотрудник правоохранительных органов использовал ChatGPT как личный дневник. Сотрудник написал об операции, направленной против китайских диссидентов, живущих в других странах.

В кампании участвовали сотни операторов и тысячи фальшивых аккаунтов в социальных сетях, согласно OpenAI.

Операция пыталась выдать себя за сотрудников иммиграционной службы США, чтобы напугать диссидента, ложно заявив, что его публичные заявления нарушают американское законодательство. В других случаях операторы использовали поддельные документы, утверждая, что они из окружного суда, чтобы попытаться добиться удаления аккаунтов критиков в социальных сетях.

Фальшивые некрологи и поддельные документы являются частью кампании травли

Они создали фальшивое некролог и фотографии надгробий, чтобы распространять ложные слухи о смерти одного диссидента. Эти слухи фактически появились в сети в 2023 году, подтвердила статья китайской версии «Голоса Америки». Бен Ниммо, возглавляющий расследования в OpenAI, назвал эти усилия промышленной травлей, направленной против критиков Коммунистической партии Китая через несколько каналов.

Использование ChatGPT в качестве инструмента для ведения записей привело к раскрытию операции. ChatGPT служил журналом для оперативника, чтобы отслеживать тайную сеть, в то время как другие инструменты генерировали большую часть реального контента, который распространялся через социальные сети. OpenAI заблокировал пользователя после обнаружения этой деятельности.

Расследователи OpenAI сопоставили описания от пользователя ChatGPT с реальной онлайн-активностью. Пользователь описал фальсификацию смерти китайского диссидента, создав фальшивый некролог и фотографии надгробий для публикации в сети.

В другом случае пользователь ChatGPT попросил систему создать план по подрыву репутацииIncoming премьер-министра Японии Санаэ Такаичи, разжигая гнев из-за американских тарифов. ChatGPT отказал. Но в конце октября, когда Такаичи пришла к власти, хэштеги появились на популярном форуме японских графических художников, атакуя ее и жалуясь на тарифы.

Отчет OpenAI также охватил несколько мошеннических операций из Камбоджи, которые использовали платформу для романтического и инвестиционного мошенничества, а также кампании влияния, связанные с Россией, направленные против Аргентины и Африки.

Отчет Microsoft показывает аналогичные базовые модели использования

Microsoft опубликовала отдельный отчет совместно с OpenAI, рассматривающий, как акторы от государств-наций из России, Северной Кореи, Ирана и Китая пробуют использовать большие языковые модели для поддержки кибератак. Обе компании пресекли усилия пяти государственных аффилированных акторов, закрыв их аккаунты.

В отчете Microsoft установлено, что эти акторы в основном хотели использовать сервисы для простых задач, таких как поиск общедоступной информации, перевод контента, исправление ошибок в коде и выполнение базовых задач программирования. Крупных или новых атак с использованием моделей пока не обнаружено.

Этот разрыв между страхом и реальностьюпроисходит во времятяжелой конкуренции между Вашингтоном и Пекином за контроль над этой технологией. Какая роль она играет в военных и экономических вопросах, стала главной борьбой. Пентагон недавно сообщил другой компании, Anthropic, у него есть до пятницы, чтобы удалить определенные функции безопасности из своей модели, или рискует потерять оборонный контракт.

Microsoft заявила, что работает над принципами для снижения рисков от плохого использования этих инструментов группами государств-наций и преступными организациями. Эти принципы включают обнаружение и остановку плохих пользователей, информирование других провайдеров услуг, сотрудничество с другими группами и прозрачность.