Дезинформация, созданная с помощью ИИ: раскрыта тайная кампания Пекина по манипулированию выборами на Тайване

В ходе расследования, проливающего свет на темную сторону цифрового вмешательства в выборы, Австралийский институт стратегической политики (ASPI) раскрыл тайную кампанию, организованную Коммунистической партией Китая (КПК) для манипулирования недавними выборами на Тайване с помощью дезинформации, сгенерированной искусственным интеллектом. Использованные коварные тактики включали применение созданных с помощью ИИ аватаров, утечки документов и поддельных тестов на отцовство, что вызывает опасения по поводу потенциального глобального воздействия подобных дезинформационных кампаний.

Китайская тайная кампания раскрыта

Расследование ASPI выявило противоправную деятельность сети Spamouflage, связанной с КПК, которая использовала созданные с помощью ИИ аватары на таких платформах, как Twitter, Facebook, Medium и тайваньские блоги. Эти аккаунты были нацелены на кандидатов от Демократической прогрессивной партии (ДПП), обвиняя их в коррупции и растрате с целью повлиять на общественное мнение против них. Связи сети с китайскими правоохранительными органами и государственными учреждениями еще больше осложнили ситуацию.

Второй субъект угроз,dentв отчете Meta за третий квартал 2023 года, занимался сложными операциями по кибервлиянию. Этот субъект распространял якобы просочившиеся в сеть документы тайваньского правительства и поддельный тест ДНК на отцовство с участием кандидата вdentот Демократической прогрессивной партии Лай Чин-те. Сложность этих кампаний, включая использование контента, сгенерированного искусственным интеллектом, стала тревожным сигналом в операциях Китая по оказанию влияния.

В докладе ASPI освещаются далеко идущие последствия дезинформационных кампаний Китая, проводимых с использованием искусственного интеллекта, выходящие за пределы Тайваня. В частности, сеть Spamouflage, помимо оказания влияния на Тайване, былаdentраспространяющая контент, порочащий партию Бхаратия Джаната (BJP) и правительство Индии, с особым акцентом на регион Манипур в Индии. Это разоблачение раскрывает правдоподобную модель потенциального вмешательства Коммунистической партии Китая (КПК) в предстоящие выборы в глобальном масштабе.

Демократическое единство перед лицом дезинформации, созданной искусственным интеллектом

В докладе подчеркивается ответственность таких платформ, как X/Twitter, за обеспечение онлайн-безопасности во время выборов, указываются недостатки в блокировке учетных записей, связанных с скоординированными сетями недостоверного поведения, базирующимися в Китае. В нем также содержится призыв к западным компаниям, занимающимся генеративным искусственным интеллектом, таким как Synthesia и D-ID, проявлять должную осмотрительность и прозрачность в предотвращении неправомерного использования их продуктов, и настоятельно рекомендуется OpenAI последовать примеру социальных сетей и публиковать отчеты об угрозах и неправомерном использовании.

В заключительных выводах доклада содержится предостережение, бьющее тревогу по поводу иностранных инвестиций в быстро развивающуюся китайскую индустрию искусственного интеллекта. В докладе содержится призыв к переоценке западными правительствами и корпорациями своего участия в этом секторе. Присущий продуктам ИИ потенциал двойного назначения, особенно в сфере политических операций, требует усиления контроля и, возможно, привлечения к юридической ответственности компаний, занимающихся ИИ, которые могут непреднамеренно способствовать вмешательству в выборы.

В преддверии предстоящих выборов в демократических странах доклад ASPI призывает к укреплению связей с Тайванем и созданию единого фронта против дезинформации. Обмен разведывательной информацией об угрозах со стороны КПК, расследование деятельности аккаунтов в социальных сетях, нацеленных на различные регионы, и сотрудничество в борьбе с дезинформацией могут укрепить оборону демократии.

В мире, все больше зависящем от цифровых платформ, раскрытие изощренных дезинформационных кампаний Китая, созданных с помощью искусственного интеллекта, служит ярким напоминанием о проблемах, с которыми сталкиваются демократии в сохранении целостности своих избирательных процессов. Ответственность за коллективную борьбу с этой развивающейся угрозой лежит не только на правительствах, но и на технологических компаниях и на мировом сообществе в целом.