Искусственный интеллект используется для манипулирования выборами, OpenAI бьёт тревогу

В отчете OpenAI говорится, что ее модели используются для влияния на выборы. В нем также сообщается, что компания пресекла деятельность более 20 организаций, которые использовали ее модель ИИ для осуществления подобных вредоносных действий. 

OpenAI отчетепод названием «Обновленная информация о противодействии обманным методам использования ИИ» также подчеркивается необходимость бдительности при взаимодействии с политическим контентом.

В документе показана тенденция к тому, что модели OpenAI становятся основным инструментом для срыва выборов и распространения политической дезинформации. Злоумышленники, часто спонсируемые государством, используют эти модели ИИ для различных целей, включая генерацию контента для фейковых аккаунтов в социальных сетях и обратное проектирование вредоносного ПО.

Растущее влияние OpenAI на выборы и политику в сфере ИИ

В конце августа компания OpenAI пресекла иранскую кампанию по созданию контента в социальных сетях с целью повлиять на общественное мнение в связи с выборами в США, политикой Венесуэлы, конфликтом в Газе и Израилем. Сообщалось, что некоторые аккаунты, которые впоследствии были заблокированы, также публиковали информацию о выборах в Руанде. 

Также выяснилось, что израильская компания была причастна к попыткам манипулировать результатами выборов в Индии. 

Однако, как отметила компания OpenAI, эти мероприятия не получили широкого распространения и не привлекли значительной аудитории. Сообщения в социальных сетях, связанные с этими кампаниями, получили минимальное trac. Это может указывать на сложность влияния на общественное мнение посредством дезинформационных кампаний, осуществляемых с помощью ИИ. 

Исторически сложилось так, что политические кампании обычно подпитываются дезинформацией со стороны кандидатов. Однако появление искусственного интеллекта представляет собой иную угрозу целостности политических систем. Всемирный экономический форум (ВЭФ) заявил, что 2024 год станет историческим годом для выборов, поскольку выборы пройдут в 50 странах.  

В повседневной практике магистерские программы уже обладают способностью создавать и распространять дезинформацию быстрее и убедительнее.

Регулирование и совместные усилия

В ответ на эту потенциальную угрозу компания OpenAI заявила, что сотрудничает с заинтересованными сторонами, обмениваясь информацией об угрозах. Она ожидает, что такой подход, основанный на сотрудничестве, будет достаточным для пресечения распространения дезинформации и содействия этичному использованию ИИ, особенно в политическом контексте. 

Компания OpenAI заявляет: «Несмотря на отсутствие значимого взаимодействия с аудиторией в результате этой операции, мы серьезно относимся к любым попыткам использовать наши услуги в операциях по оказанию иностранного влияния» 

Компания, занимающаяся разработкой искусственного интеллекта, также подчеркнула необходимость создания надежных систем защиты для предотвращения кибератак со стороны спонсируемых государством злоумышленников, которые используют ИИ для проведения обманных и деструктивных онлайн-кампаний. 

Всемирный экономический форум также подчеркнул необходимость введения регулирования в области ИИ, заявив: «Международные соглашения о совместимых стандартах и ​​базовых нормативных требованиях сыграют важную роль в стимулировании инноваций и повышении безопасности ИИ» 

Разработка эффективных механизмов требует стратегического партнерства между технологическими компаниями, такими как OpenAI, государственным сектором и частными заинтересованными сторонами, что поможет внедрить этичные системы искусственного интеллекта.