Bots Utilizando IA Inundam as Redes Sociais com Desinformação

Quase todo mês, a Internet oferece uma nova e criativa ideia para um esquema de “ficar rico” que não requer esforço. Muitos adotaram ferramentas de IA para melhorar seu trabalho e obter melhores retornos. Canais de notícias locais postam seus âncoras, e o Ministério das Relações Exteriores está construindo uma fonte digital. Diferente da tradução e verificação de gramática, que são típicas e esperadas, isso está se tornando um elemento integral de nossas vidas e dificilmente é mais associado à IA.

Desvendando a fazenda de bots alimentada por IA

Há outro nicho: gerar material totalmente original do zero. Criá-lo requer apenas vinte ou até mesmo um minuto. Toda a plataforma de IA é usada para produzir vídeo (ou processar vídeo que foi roubado), escrever textos e faixas de áudio, organizar tudo e adicionar descrições e hashtags para publicá-los na rede social em apenas alguns segundos.

Assim, as redes sociais gradualmente se tornam apenas lixeiras de lixo de IA, e esses instrumentos permitem que as pessoas desfrutem do pensamento de que criaram um vídeo promocional que poderia se tornar popular e gerar renda. Ou eles espalham mensagens de propaganda russa até que se tornem a voz dominante na questão.

Você verá como a IA contribui para a mensagem sobre uma fazenda falsa usando o exemplo de uma fazenda de bots de 300 canais que usaram IA para processar e gerar vídeos de canais do YouTube, sejam eles de origem russa ou bielorrussa. Aqui está Anastasiia Kozhevnikova, uma garota local de Mariupol que agora é uma YouTuber russa conhecida. Embora ela tenha apenas 190.000 inscritos em seu canal do YouTube, ela é um bom exemplo de como o uso inteligente da Internet pode dar voz a um indivíduo suprimido em seus países natais. Ela tem boa reputação como disseminadora dos mitos de propaganda da Rússia de “Rússia como Salvadora” e do surgimento de Mariupol a partir da destruição.

No entanto, ao sair do perfil dela, você é atingido pela ausência de informações sobre o assunto discutido. Ela explora quem ela é e fala sobre o que eles sempre fazem vlog. Como o espectador sabe que existem outras redes semelhantes na comunidade? E se for um link para o canal do YouTube de uma estrela das redes sociais superpopular? Cartões com fotos da missão da organização são bastante possíveis. Números de cartões ainda mais generosos, talvez. Em contraste, há uma breve ausência de expressão saborosa com um incentivo para se inscrever. Nesse contexto, cada canal pode ser especializado. No entanto, descobri que uma grande parte desses canais já os possui.

A disseminação insidiosa da desinformação por IA

Da mesma forma, a sofisticada pesquisa do Google gerou 298 mensagens de identificação de canais do TikTok com a mesma descrição. Acontece que há semelhanças em suas vidas. Foi isso que eles fizeram para começar a escanear e escolher uma campanha dentro da fazenda russa de TikTok artificial. A única coisa que os diferencia é o assunto em que se concentram. 

Se você pesquisar por “propaganda russa” ou “teorias da conspiração imperial”, o sortimento é enorme. Ao mesmo tempo, receitas, dicas para mecânicos, vídeos de entusiastas de engrenagens, desenhos animados para crianças, blogueiros, etc., contam às pessoas sobre cemitérios na Rússia ou encontram tesouros nos escombros de sucata local. Eles só poderiam ser agrupados na categoria ‘estrelas offline’, já que estas são as únicas caixas de papelão que encontramos. Vale mencionar que a atividade da mídia foi restrita na Rússia de março de 2022 até recentemente. Por exemplo, o TikTok, uma das redes mais populares, era considerado ilegal.

Nenhuma informação sobre os autores nas fazendas da estação descoberta sugere novamente que a pirataria foi encontrada aqui. Até o final de maio, você terá visto os números, provavelmente mais de 10 milhões. Curtidas e ainda mais visualizações no canal existem há seis meses. No entanto, quanto mais fundo você vai nesse mundo de fantasia virtual, mais conteúdo falso e inexistente estará abundante. Nesse caso, a Rússia o empregará em sua guerra de informações. Bots e fazendas de bots russos geralmente replicam e regurgitam mensagens populares nas redes sociais, o que as torna mais fáceis de serem detectadas pelos algoritmos das redes sociais.

O uso de recursos de IA para plataformas sociais representará um desafio maior. Eles exibirão o nome do contra-movimento com o lema “voando no espaço morto da internet”, que afirma que hoje em dia não há pessoas reais online. Agora, uma nova pesquisa mostra que grande parte do tráfego online do ano passado, mais de 50%, foi feita por bots.