Meta предупреждает об угрозах со стороны российского ИИ в преддверии выборов в США

В недавнем отчете по вопросам безопасности компания Meta утверждает, что Россия использует инструменты генеративного искусственного интеллекта (ИИ) для проведения онлайн-кампаний по дезинформации относительно выборов в США. Технологический гигант заявляет, что большинство этих попыток оказались безуспешными, поскольку компания сорвала кампании.

Согласно данным Meta, стратегии генеративного ИИ принесли минимальную производительность и выгоду. Это связано с тем, что компания не смогла обнаружить и пресечь скоординированное недостоверное поведение (CIB) на своей платформе.

dentMeta определяет Россию как основной источник кампаний политического влияния

В отчете Meta Adversarial Threat за второй кварталdentустановлено, что большинство кампаний CIB на платформах компании, особенно в Facebook и Instagram, исходили из России. С 2017 года на эту страну приходится 39 тайных операций, в то время как Иран и Китай занимают второе и третье места с 30 и 11 операциями соответственно.

Эти российские кампании в значительной степени опирались на фейковые аккаунты и страницы, причем одной из основных тактик было создание множества аккаунтов. С точки зрения контента, все они, похоже, распространяли одно и то же сообщение с момента вторжения России в Украину в 2022 году — оправдание вторжения.

Meta прогнозирует, что в ближайшие несколько месяцев, по мере приближенияdentвыборов в ноябре, появится больше кампаний, нацеленных на пользователей из США. Эти кампании, вероятно, будут распространять антиукраинские сообщения и нападать на кандидатов, поддерживающих Украину.

Там было написано:

«В период до выборов в США в ноябре мы ожидаем, что базирующиеся в России организации будут распространять поддерживающие комментарии в адрес кандидатов, выступающих против помощи Украине, и критиковать тех, кто выступает за помощь в обороне страны»

Несмотря на сохраняющуюся угрозу и широкое использование ИИ в этих обманных кампаниях, компания Meta заявила, что разработала высокоэффективный способ обнаружения и предотвращения подобной вредоносной деятельности. Компания фокусируется на поведенческих моделях аккаунта, а не на содержании публикации, что позволяет ей лучше обнаруживать автоматизированные действия.

История вмешательства России в выборы

Активная позиция Meta по ограничению злонамеренных кампаний политического влияния неудивительна. Компания подверглась критике со стороны регулирующих органов за неспособность предотвратить или удалить подобные кампании со своей платформы. В мае этого года Европейский союз начал расследование в отношении Meta за несоблюдение правил обеспечения честности выборов.

Между тем, Россия имеет историю спонсирования кампаний влияния против конкурирующих мировых держав, особенно во время выборов. Страну обвиняют во влиянии на исход выборов в США 2016 года посредством кампаний на всех платформах социальных сетей, включая такие приложения, как Tumblr и PayPal.

Исследование, проанализировавшее миллионы сообщений в социальных сетях на всех платформах, включая Google, показало, что российское правительство через ряд агентов распространяло дезинформацию об избирательном процессе в США с целью его подрыва. В ходе исследования былаdent​​группа, возглавляющая эту кампанию, — Агентство интернет-исследований (ИРА), которое многие считают российской фабрикой троллей.

С появлением технологий генеративного искусственного интеллекта, упрощающих создание контента любого рода, возникли опасения, что их использование в кампаниях влияния на этих выборах будет очень распространенным. К настоящему моменту несколько экспертов по безопасностиdentряд случаев их использования. Однако даже политические кандидаты обвиняют друг друга в использовании ИИ.