Искусственный интеллект используется для манипулирования выборами, OpenAI бьет тревогу
- В своём последнем отчёте OpenAI заявила, что её чат-бот стал ведущим инструментом для создания дезинформации перед национальными выборами.
- OpenAI подчёркивает необходимость внедрения строгих мер безопасности и надёжных регуляторных рамок для замедления кампаний по манипулированию выборами с использованием ИИ, финансируемых государствами.
- На данный момент контент, созданный искусственным интеллектом, ещё недостаточно убедителен, чтобы повлиять на политические мнения.
В отчете OpenAI указано, что ее модели используются для влияния на выборы. Также сообщается, что компания отключила более 20 операций, которые опирались на ее ИИ-модели для совершения подобных злонамеренных действий.
OpenAI отчете, «Обновление о пресечении обманных методов использования ИИ», также подчеркнула необходимость бдительности при взаимодействии с политическим контентом.
Документ показал тенденцию к тому, что модели OpenAI становятся основным инструментом для дестабилизации выборов и распространения политической дезинформации. Злоумышленники, часто спонсируемые государствами, используют эти ИИ-модели для различных действий, включая генерацию контента для фейковых аккаунтов в социальных сетях и реверс-инжиниринг вредоносного ПО.
Растущее влияние OpenAI на выборы и политику в сфере ИИ
В конце августа OpenAI пресекла иранскую кампанию по производству контента для социальных сетей с целью влияния на общественное мнение в ходе выборов в США, политических процессов в Венесуэле, конфликта в Газе и в Израиле. Сообщалось, что некоторые аккаунты, которые впоследствии были заблокированы, также публиковали материалы о выборах в Руанде.
Также было выявлено, что израильская компания участвовала в попытках манипулирования результатами опросов общественного мнения в Индии.
Однако OpenAI отметила, что эти действия не стали вирусными и не сформировали значительной аудитории. Посты в социальных сетях, связанные с этими кампаниями, получили минимальный отклик. Это может указывать на сложность влияния на общественное мнение через кампании дезинформации на базе ИИ.
Исторически политические кампании обычно подпитывались дезинформацией от участвующих сторон. Однако появление ИИ представляет собой иную угрозу для целостности политических систем. Всемирный экономический форум (WEF) заявил, что 2024 год является историческим для выборов, так как в 50 странах состоятся выборы.
Языковые модели (LLM), используемые в повседневной жизни, уже способны создавать и распространять дезинформацию быстрее и убедительнее.
Регулирование и совместные усилия
В ответ на эту потенциальную угрозу OpenAI заявила, что работает с соответствующими заинтересованными сторонами, обмениваясь данными о киберугрозах. Компания ожидает, что такой совместный подход будет достаточным для контроля каналов распространения дезинформации и поощрения этичного использования ИИ, особенно в политическом контексте.
В отчете OpenAI говорится: «Несмотря на отсутствие значимого вовлечения аудитории в результате этой операции, мы серьезно относимся к любым попыткам использования наших услуг в операциях по иностранному влиянию».
Компания также подчеркнула, что необходимо строить надежные системы защиты безопасности, чтобы предотвратить кибератаки, спонсируемые государствами, которые используют ИИ для создания обманных и дестабилизирующих онлайн-кампаний.
WEF также выделил необходимость внедрения регулирования ИИ, отметив: «Международные соглашения о взаимоприемлемых стандартах и базовых регуляторных требованиях сыграют важную роль в обеспечении инноваций и повышении безопасности ИИ».
Разработка эффективных框架 требует стратегических партнерств между технологическими компаниями, такими как OpenAI, государственным сектором и частными заинтересованными сторонами, что поможет внедрять этичные системы ИИ.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Ханна Коллимор
Ханна — писатель и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптоиндустрии. В Cryptopolitan Ханна работает над новостной страницей, освещая и анализируя последние события в сферах DeFi, RWA, криптовалютного регулирования, искусственного интеллекта и передовых технологий. Она окончила Университет Аркадии со степенью бакалавра делового администрирования.
