Согласно отчету OpenAI, хакерам, действующим от имени государства, не удается получить преимущество в использовании ИИ

Технологические компании и правительственные чиновники постоянно предупреждают о том, что искусственный интеллект становится опасным оружием для врагов извне, но новые данные говорят об обратном. Недавние отчеты показывают, что спонсируемые государством группы используют те же общедоступные инструменты, что и обычные пользователи интернета, и зачастую сталкиваются с теми же трудностями.

Компания OpenAI недавно поделилась подробностями о том, как связанные с правительством группы пытались использовать её платформы.

Наиболее примечательный случай произошел во время китайской кампании влияния, которая была случайно раскрыта,dent китайский сотрудник правоохранительных органов использовал ChatGPT как личный дневник. Чиновник написал об операции, направленной против китайских критиков, проживающих в других странах.

в кампании участвовали сотни операторов и тысячи фейковых аккаунтов в социальных сетях По данным OpenAI.

В ходе операции предпринимались попытки запугатьdent , выдавая себя за сотрудников иммиграционной службы США, ложно утверждая, что их публичные заявления нарушают американское законодательство. В других случаях операторы использовали поддельные документы, якобы выданные окружным судом, чтобы добиться удаления аккаунтов критиков в социальных сетях.

Фальшивые некрологи и поддельные документы являются частью кампании преследования

Они создали фальшивый некролог и фотографии надгробия, чтобы распространить ложные слухи о смерти одного диссидентаdentЭти слухи действительно появились в интернете в 2023 году, как подтвердила статья «Голоса Америки» на китайском языке. Бен Ниммо, руководитель расследований в OpenAI, назвал эти действияиндустриальнымпреследованием критиков Коммунистической партии Китая, осуществляемым по различным каналам.

Использование ChatGPT в качестве инструмента для ведения учета привело к раскрытию операции. ChatGPT служил дневником для оперативника, позволяя tracскрытую сеть, в то время как другие инструменты генерировали большую часть фактического контента, распространяемого через социальные сети. OpenAI заблокировал пользователя после обнаружения его активности.

Следователи OpenAI сопоставили описания пользователя ChatGPT с реальной онлайн-активностью. Пользователь описал, как инсценировал смерть китайскогоdent, создав поддельный некролог и фотографии надгробия для публикации в интернете.

В другом случае пользователь ChatGPT попросил систему разработать план по нанесению ущерба репутации будущего премьер-министра Японии Санаэ Такаичи путем разжигания гнева по поводу американских пошлин. ChatGPT отказал. Но в конце октября, когда Такаичи пришла к власти, появились , критикующие ее и жалующиеся на пошлины.

В отчете OpenAI также были рассмотрены несколько мошеннических схем из Камбоджи, в которых платформа использовалась для мошенничества в сфере романтических отношений и инвестиций, а также кампании влияния, связанные с Россией и направленные на Аргентину и Африку.

Отчет Microsoft демонстрирует схожие основные модели использования

Компания Microsoft опубликовала отдельный совместный отчет с OpenAI, в котором рассматривается, как государственные структуры из России, Северной Кореи, Ирана и Китая тестируют . большие языковые модели для поддержки кибератак. Обе компании пресекли попытки пяти связанных с государством субъектов, заблокировав их учетные записи

Microsoft отчете былоустановлено, чтоэти злоумышленники в основном хотели использовать сервисы для простых задач, таких как поиск общедоступной информации, перевод контента, исправление ошибок в коде и выполнение базовых задач программирования. До настоящего времени не было обнаружено никаких крупных или новых атак с использованием этих моделей.

Этот разрыв между страхом и реальностью возникает на фоне жесткой конкуренции между Вашингтоном и Пекином за контроль над этой технологией. Вопрос о том, какую роль она играет в военных и экономических вопросах, стал предметом серьезной борьбы. Недавно Пентагон заявил другой компании, Anthropic, чтоу нее есть время до пятницы, чтобы удалить определенные элементы безопасности из своей модели, иначе она рискует потерять оборонныйtrac.

Компания Microsoft заявила, что работает над принципами снижения рисков, связанных с неправомерным использованием этих инструментов государственными группировками и преступными организациями. Эти принципы включают в себя выявление и пресечение неправомерного использования, информирование других поставщиков услуг, сотрудничество с другими группами и обеспечение прозрачности.