A Meta alerta para as ameaças da IA ​​russa à medida que as eleições nos EUA se aproximam

Em um relatório de segurança recente, a Meta afirma que a Rússia está utilizando ferramentas de inteligência artificial (IA) generativa para campanhas de desinformação online sobre as eleições americanas. A gigante da tecnologia alega que a maioria dessas tentativas fracassou, pois conseguiu frustrar as campanhas.

Segundo a Meta, as estratégias de IA generativa trouxeram ganhos e produtividade mínimos. Isso ocorre porque a empresa conseguiu detectar e reprimir comportamentos inautênticos coordenados (CIB, na sigla em inglês) em sua plataforma.

Metadenta Rússia como a principal fonte de campanhas de influência política

O Relatório de Ameaças Adversárias Meta do segundo trimestredentque a maioria das campanhas da CIB em suas plataformas, particularmente no Facebook e Instagram, teve origem na Rússia. Desde 2017, o país foi responsável por 39 operações secretas, enquanto o Irã e a China vêm em segundo e terceiro lugar, com 30 e 11 operações, respectivamente.

Essas campanhas russas se basearam fortemente em contas e páginas falsas, sendo uma das principais táticas a aquisição de múltiplas contas. Em termos de conteúdo, todas parecem ter propagado a mesma mensagem desde a invasão da Ucrânia pela Rússia em 2022: justificar a invasão.

A Meta prevê que mais campanhas direcionadas a usuários dos EUA surgirão nos próximos meses, à medida que a eleiçãodentde novembro se aproxima. É provável que as campanhas disseminem mensagens anti-Ucrânia e ataquem candidatos que apoiam a Ucrânia.

Dizia:

“Entre agora e as eleições americanas em novembro, esperamos que as operações baseadas na Rússia promovam comentários favoráveis ​​aos candidatos que se opõem à ajuda à Ucrânia e critiquem aqueles que defendem o auxílio às suas defesas.”

Apesar da ameaça persistente e do uso intenso de IA nessas campanhas enganosas, a Meta afirmou ter desenvolvido um método altamente eficaz para detectar e prevenir tais atividades maliciosas. A empresa se concentra no padrão de comportamento da conta, em vez do conteúdo da publicação, o que permite detectar ações automatizadas com mais precisão.

Histórico de interferência eleitoral na Rússia

A proatividade da Meta em limitar campanhas maliciosas de influência política não é surpreendente. A empresa tem sido alvo de críticas por parte dos órgãos reguladores por não conseguir impedir ou remover tais campanhas de sua plataforma. Em maio deste ano, a União Europeia abriu uma investigação sobre o descumprimento, por parte da Meta, das normas de integridade eleitoral.

Entretanto, a Rússia tem um histórico de patrocínio de campanhas de influência contra potências mundiais rivais, particularmente durante as eleições. O país foi acusado de influenciar o resultado das eleições americanas de 2016 por meio de campanhas em todas as plataformas de mídia social, incluindo aplicativos como Tumblr e PayPal.

Um estudo que analisou milhões de publicações em redes sociais de todas as plataformas, incluindo o Google, mostrou que o governo russo, por meio de diversos agentes, disseminou desinformação sobre o processo eleitoral dos EUA para prejudicá-lo. O estudodentum grupo, a Agência de Pesquisa da Internet (IRA), considerada por muitos como uma fábrica de trolls russa, como líder da campanha.

Com o advento das tecnologias de IA generativa, que facilitam a criação de todos os tipos de conteúdo, surgiram preocupações de que seu uso para campanhas de influência seria muito alto nesta eleição. Até o momento, diversos especialistas em segurançadentalguns casos de uso. No entanto, até mesmo candidatos políticos têm se acusado mutuamente de usar IA.