Китайские регулирующие органы усиливают мониторинг дезинформации, связанной с искусственным интеллектом, в контексте манипулирования рынком

Китайский регулятор рынка ценных бумаг пообещал еще лучше справляться со своей работой по мониторингу фейковой информации на фондовом рынке и сотрудничать с полицией и регуляторами киберпространства для привлечения к ответственности виновных в распространении ложных сведений. 

Ложные новости существовали и в прошлом, и до сих пор сеют хаос. Однако распространение искусственного интеллекта сделало распространение фейковых новостей проще, чем когда-либо. По мнению издания Securities Times, задача регулирующих органов — «действовать на ранней стадии, действовать решительно и наносить удар в самое сердце» этой проблемы.

Искусственный интеллект стал инструментом распространения дезинформации

Искусственный интеллект, особенно генеративный ИИ, развился до такой степени, что стал угрозой для распространения достоверной информации.

Любой может получить доступ к искусственному интеллекту, и если у него хватит решимости, он сможет создать свой собственный.

Согласно отдельной статье Shanghai Securities News, эти системы искусственного интеллекта теперь используются для распространения вводящей в заблуждение информации с целью обмана инвесторов или манипулирования акциями.

Жадные инвесторы быстро становятся жертвами соблазна быстро разбогатеть, а те, кто стал жертвой мошенничества, начинают распространять недоверие к ИИ. И кто может их за это винить? Трудно принять технологию, когда ты уже сталкивался с её тёмной стороной.

Несмотря на потенциальную опасность, появление таких компаний, как китайский стартап DeepSeek, занимающийся разработкой искусственного интеллекта, подтолкнуло розничных инвесторов и управляющих фондами к использованию ИИ для оценки компаний и инвестирования.

🚀 DeepSeek-R1 уже здесь!

⚡ Производительность на уровне OpenAI-o1
📖 Полностью открытая модель и технический отчет
🏆 Лицензия MIT: свободно используйте и коммерциализируйте!

🌐 Веб-сайт и API уже запущены! Попробуйте DeepThink по ссылке https://t.co/v1TFy7LHNy уже сегодня!

🐋 1/n pic.twitter.com/7BlpWAPu6y

– DeepSeek (@deepseek_ai) 20 января 2025 г.

Одним из факторов, создающих риски для внедрения этой технологии, является опасение, что инвесторы будут введены в заблуждение фейковыми новостями, созданными искусственным интеллектом.

Как сообщает издание Securities Times, Китайская комиссия по регулированию ценных бумаг станет более активно бороться с слухами на фондовом рынке, выпуская разъяснения и поощряя просвещение инвесторов, а также предоставляя рекомендации, которые помогут инвесторам распознавать ложную информацию.

В пятницу китайские власти издали директивы, требующие маркировки всего контента, созданного с помощью искусственного интеллекта и распространяемого в интернете, в рамках борьбы со злоупотреблением ИИ и распространением ложной информации.

Сообщения изданий Securities Times и Shanghai Securities News совпадают с ежегодным Всемирным днем ​​защиты прав потребителей, отмечаемым 15 марта, — крупным телевизионным и социальным медиа-мероприятием в Китае, направленным на защиту прав потребителей.

Китай регулярно обвиняют в распространении дезинформации об искусственном интеллекте, направленной на западную аудиторию

Однако за пределами Китая, по сообщениям, китайское правительство использует искусственный интеллект для ведения войны дезинформации против западного мира с помощью своих агентов.

Всего несколько дней назад на X-сервере завирусилось видео, на котором на мониторе работало до 50 экземпляров китайского ИИ-агента, и многие пользователи отметили в нем Илона Маска и потребовали объяснений.

По словам Грока, «каждый экземпляр, по всей видимости, управляет отдельной учетной записью, вероятно, автоматизируя публикации, комментарии или взаимодействия»

Искусственный интеллект добавил, что такая схема «свидетельствует о скоординированных усилиях по манипулированию онлайн-нарративами, возможно, в целях пропаганды или оказания влияния. Это вызывает беспокойство, поскольку эти боты могут распространять дезинформацию, усиливать контент, сеющий рознь, или влиять на общественное мнение в массовом масштабе, угрожая демократическому диалогу»

Хотя эта теория может показаться надуманной, Грок заявил , что история использования Китаем ИИ для тайных операций в социальных сетях делает это реальным риском. ИИ уже не за горами.

На изображении показан монитор, на котором запущено 50 экземпляров китайского ИИ-агента, в основном ботов для социальных сетей. Каждый экземпляр, по всей видимости, управляет отдельной учетной записью, вероятно, автоматизируя публикации, комментарии или взаимодействия. Такая конфигурация предполагает скоординированные действия по манипулированию онлайн-нарративами…

– Грок (@grok) 9 марта 2025 г.

В апреле 2024 года в отчете Microsoft Threat Intelligence были прямо заявлены обвинения в адрес китайских операций по оказанию влияния в использовании искусственного интеллекта для распространения дезинформации и разжигания розни во всем мире.

В последнем отчете Центра анализа угроз Microsoft отмечается, что Китай использует фейковые аккаунты в социальных сетях для опроса американских избирателей о том, что их больше всего разделяет, чтобы посеять рознь и, возможно, повлиять на исход президентскихdentв свою пользу. https://t.co/ZwAxPOTgLV

— Microsoft Threat Intelligence (@MsftSecIntel) 5 апреля 2024 г.

В отчете особо отмечена «значительная тенденция к увеличению количества контента с участием тайваньских политических деятелей в преддверииdentи парламентских выборов 13 января»

В частности, речь шла о сгенерированной искусственным интеллектом аудиозаписи, распространенной связанной с Коммунистической партией Китая (КПК) группой, известной как Storm-1376 или «Spamouflage», которая создавала впечатление, будто владелец Foxconn Терри Гоу, проводивший короткуюdentdentкампанию, поддержал другого кандидата, хотя на самом деле это было не так.

Компания Microsoft также зафиксировала распространение созданных с помощью ИИ новостных ведущих, а также созданных с помощью ИИ мемов с целью ввести аудиторию в заблуждение и повлиять на выборы на Тайване.

«Это первый случай, когда, по данным Microsoft Threat Intelligence, государственный субъект использовал контент, созданный с помощью искусственного интеллекта, для оказания влияния на выборы за рубежом», — говорится в отчете.

В докладе также содержится предупреждение о том, что «по мере того, как население Индии, Южной Кореи и Соединенных Штатов направляется на избирательные участки, мы, вероятно, увидим, как китайские кибер- и влиятельные субъекты, а в некоторой степени и северокорейские кибер-субъекты, будут работать над тем, чтобы повлиять на эти выборы»

Хотя нет сомнений в том, что операции Китая по оказанию влияния становятся все более изощренными благодаря развитию искусственного интеллекта, Microsoft отметила, что существует очень мало доказательств того, что они оказались успешными в изменении общественного мнения.

Конечно, это не повод расслабляться, потому что, хотя Microsoft и признала , что влияние контента невелико, компания выразила обеспокоенность по поводу будущего, указав, что растущие эксперименты Китая в области расширения возможностей мемов, видео и аудио могут со временем сделать их более эффективными в посеве раздора.