OpenAI заблокировала аккаунты иранской группы в ChatGPT за кампанию по влиянию на выборы в США

Компания OpenAI приняла решительные меры, заблокировав группу аккаунтов ChatGPT, связанных с иранской операцией по оказанию влияния. Как пояснила компания в своем блоге, эти аккаунты публиковали материалы, созданные с помощью ИИ, касающиесяdentвыборов в США. Операция, включавшая статьи и публикации в социальных сетях, по всей видимости, носила небольшой масштаб. 

Это не первый случай, когда связанные с государством структуры пытаются злоупотребить платформой ChatGPT от OpenAI. В мае компания предотвратила пять различных попыток повлиять на общественное мнение с помощью фейковых статей в СМИ, размещенных ботами на основе искусственного интеллекта. Эти действия являются частью более широкой тенденции, в рамках которой государственные структуры используют новые технологии для попытки повлиять на политические процессы. 

OpenAI оперативно реагирует на возникающие угрозы

Ранее подобные группы использовали Facebook и Twitter в качестве основных социальных сетей. Однако сейчас генеративный ИИ используется для того, чтобы заполонить социальные сети фейковой информацией. В ответ США 2024 годаdentпостепенно приближаются. 

Анализ OpenAI последней партии учетных записей основан на отчете Microsoft Threat Intelligence, опубликованном на прошлой неделе. В отчете названа группа, спонсирующая эти операции, — Storm-2035, которая занимается вмешательством в выборы в США с 2020 года. 

Сообщается, что Storm-2035 — это иранская сеть с многочисленными доменами, имитирующими настоящие новостные сайты. Эти сайты нацелены на американских избирателей и представляют поляризующий контент, касающийся кандидатовdent, прав геев и конфликта между Израилем и ХАМАС. 

ChatGPT генерирует контент, вызывающий разногласия по различным политическим темам

Как и в других подобных операциях, цель Storm-2035 состоит не в поддержке какой-либо отдельной политики, а в том, чтобы вызвать споры среди населения. По данным OpenAI, группа была связана с пятью веб-сайтами, которые выдавали себя за либеральные и консервативные новостные ресурсы. 

Эти сайты имели удачные доменные имена, например, «evenpolitics.com», и использовали ChatGPT для написания статей определённой длины. В одной из таких статей утверждалось, что социальная сеть, принадлежащая Илону Маску, блокирует твиты бывшегоdentСША Дональда Трампа. 

Компания OpenAIdentдюжину учетных записей X и одну учетную запись в Instagram, связанных с проектом Storm-2035. Эти учетные записи использовали ChatGPT для генерации новых политических заявлений, а затем публиковали их в этих социальных сетях. Например, в твите ложно утверждалось, что изменение климата связано с «увеличением затрат на иммиграцию», при этом заявление сопровождалось хэштегом #DumpKamala, отсылающим к вице-dent Камале Харрис.