Um novo golpe relacionado à inteligência artificial veio à tona, envolvendo milhares de influenciadores gerados por IA que inundaram redes sociais como o Instagram usando imagens roubadas de pessoas reais.
O golpe consiste em roubar vídeos de modelos reais e criadoras de conteúdo adulto, dar-lhes rostos gerados por IA e monetizar seus corpos com links para sites de relacionamento como Patreon, concursos do OnlyFans e vários aplicativos de IA.
Influenciadores gerados por IA competem com humanos no Instagram
Em abril, a 404 Media foi a primeira a relatar essa prática, quando ela surgiu. A prática agora se tornou uma tendência popular, levando muitos a presumir que a rede social administrada pela Meta é incapaz ou não está disposta a impedir essa aparente tendência em sua plataforma.
Isso ocorre em um momento em que criadores de conteúdo humanos no Instagram afirmam estar competindo com conteúdo gerado por IA de uma forma que está afetando sua viabilidade.
Com algumas ferramentas e aplicativos de IA prontos para uso disponíveis nas lojas Apple App Store e Google Play, os influenciadores de IA agora podem criar e monetizar suas contas com facilidade. Segundo a Wired, eles analisaram mais de 1.000 contas do Instagram geradas por IA e canais do Discord onde as pessoas que criam esse conteúdo compartilham dicas, discutem estratégias e diversos guias que explicam como ganhar dinheiro com a "monetização de IA".
A Wired descobriu que o problema, que antes era menor no Instagram, havia se tornado uma prática enorme, em consonância com diversas previsões sobre o futuro das redes sociais, onde o conteúdo gerado por IA supera o conteúdo produzido por humanos.
Criadores de conteúdo adulto que promovem seu trabalho no Instagram agora estão preocupados com a concorrência direta dessas contas piratas criadas por inteligência artificial, muitas das quais usam fotos e vídeos roubados de criadores de conteúdo adulto e modelos do Instagram.
Elaina St James, criadora de conteúdo adulto, afirmou que, embora outras mudanças no algoritmo do Instagram possam ter contribuído para isso, desde a explosão de contas de influenciadores geradas por IA na plataforma, seu alcance caiu drasticamente, de um típico 1 milhão a 5 milhões de visualizações por mês. Ela não ultrapassou a marca de um milhão nos últimos 10 meses e, às vezes, fica abaixo de 500 mil visualizações.
“Este é provavelmente um dos motivos pelos quais minhas visualizações estão caindo. É porque estou competindo com algo que não é natural.” St James.
Alexios Mantzarlis, diretor da iniciativa de segurança, confiança e proteção da Cornell Tech e anteriormente diretor de inteligência de confiança e segurança do Google, compilou uma lista de cerca de 900 contas na pesquisa da 404 Media.
Mantzarlis afirmou que isso não era nada totalmente novo ou surpreendente, pois apenas confirmava previsões feitas anteriormente sobre a tecnologia de IA e sua adoção em plataformas de mídia social.
“Parecia um possível sinal de como serão as redes sociais daqui a cinco anos”, disse Mantzarlis.
"Porque isso pode estar chegando a outras partes da internet, não apenas ao nicho de pessoastracno Instagram. Isso provavelmente é um sinal de que a situação vai ficar muito ruim."
Mantzarlis.
De mais de 1.000 contas de influenciadores do Instagram geradas por IA, pelo menos 100 incluíam conteúdo deepfake, que utilizava vídeos existentes, geralmente de modelos e artistas de entretenimento adulto, e substituía seus rostos por rostos gerados por IA para dar aos vídeos uma aparência renovada.
Os vídeos terão a aparência de conteúdo novo e original, em consonância com as outras imagens e vídeos gerados por IA e compartilhados pelo influenciador também gerado por IA.
O Instagram tomará medidas ao receber reclamações
O Instagram afirmou que só tomará medidas contra contas se elas forem denunciadas pelo proprietário correto ou por alguém autorizado a denunciá-las em seu nome. No entanto, muitos influenciadores digitais afirmam que o canal disponibilizado não tem funcionado, pois precisam seguir um número excessivo de contas de impostores.
St James acrescentou que o fato de muitas dessas contas de influenciadores geradas por IA serem operadas por mim é a gota d'água.
“Nós, mulheres, ganhamos menos dinheiro no mundo. Estamos em desvantagem de muitas maneiras. Uma área em que temos uma vantagem é a de influenciadoras e modelos, então é apenas uma camada extra”, disse St James.
"Meio que me incomoda o fato de ser um homem ganhando dinheiro fingindo ser mulher", acrescentou ela.
A Apple, que até agora não conseguiu resolver o problema do "uso duplo" dos aplicativos de troca de rostos, que podem ser usados inocentemente, mas são frequentemente usados para criar conteúdo sem consentimento, removeu o aplicativo da App Store após ser questionada sobre o assunto.
