Meta предупреждает об угрозах российского ИИ по мере приближения выборов в США

Meta в недавнем отчете о безопасности заявляет, что Россия использует инструменты генеративного искусственного интеллекта (ИИ) для кампаний онлайн-обмана, связанных с выборами в США. Технологический гигант утверждает, что большинство усилий были безуспешными, так как компания сорвала эти кампании.

По данным Meta, стратегии генеративного ИИ принесли минимальную производительность и выгоду. Это связано с тем, что компания смогла обнаружить и пресечь скоординированное неаутентичное поведение (CIB) на своей платформе.

Meta определяет Россию как основной источник политических кампий влияния

Отчет о противоборствующих угрозах Meta за второй квартал выявил, что большинство кампаний скоординированного неаутентичного поведения (CIB) на его платформах, особенно Facebook и Instagram, исходили из России. С 2017 года страна несет ответственность за 39 тайных операций, тогда как Иран и Китай занимают второе и третье места с 30 и 11 операциями соответственно.

Эти российские кампании сильно полагались на фейковые аккаунты и страницы, причем одной из основных тактик было приобретение множества аккаунтов. Что касается контента, все они, похоже, распространяли одно и то же сообщение с момента вторжения России в Украину в 2022 году — оправдание вторжения.

Теперь Meta прогнозирует, что в ближайшие месяцы, по мере приближения ноябрьских президентских выборов, появится больше кампаний, нацеленных на пользователей США. Кампании, вероятно, будут распространять антиукраинские сообщения и атаковать кандидатов, поддерживающих Украину.

Они сказали:

«Сейчас и до выборов в США в ноябре мы ожидаем, что операции, базирующиеся в России, будут продвигать поддерживающие комментарии о кандидатах, которые выступают против помощи Украине, и критиковать тех, кто выступает за помощь в ее обороне».

Несмотря на постоянную угрозу и активное использование ИИ в этих обманных кампаниях, Meta заявила, что разработала высокоэффективный способ обнаружения и предотвращения такой злонамеренной деятельности. Компания фокусируется на поведенческих паттернах аккаунта, а не на содержании поста, что позволяет ей лучше обнаруживать автоматизированные действия.

История вмешательства России в выборы

Проактивность Meta в ограничении злонамеренных политических кампаний влияния не является неожиданной. Компания подвергалась критике со стороны регуляторов за неспособность предотвратить или удалить такие кампании со своей платформы. В мае этого года Европейский союз открыл расследование в отношении Meta за несоблюдение правил обеспечения целостности выборов.

Тем временем Россия имеет историю спонсирования кампаний влияния против мировых держав-соперников, особенно во время их выборов. Страна обвинялась во влиянии на исход выборов в США в 2016 году через кампании на всех социальных платформах, включая такие приложения, как Tumblr и PayPal.

Исследование, анализирующее миллионы постов в социальных сетях на всех платформах, включая Google, показало, что правительство России через нескольких оперативников распространяло дезинформацию о процессе выборов в США, чтобы подорвать его доверие к нему. Оно выявило одну группу — Интернет-исследовательское агентство (IRA), которое многие считают российской тролльской фермой, — как лидера этой кампании.

С появлением технологий генеративного ИИ, которые облегчают создание всех форм контента, возникли опасения, что их использование для кампаний влияния будет очень высоким на этих выборах. До сих пор несколько экспертов по безопасности выявили некоторые случаи его использования. Однако даже политические кандидаты обвиняли друг друга в использовании ИИ.