Influenciadores gerados por IA inundam Instagram e outras plataformas com identidade roubada

Um novo golpe relacionado à IA surgiu, envolvendo milhares de influenciadores gerados por IA que inundaram sites sociais como o Instagram usando imagens roubadas de pessoas reais.

O golpe inclui roubar vídeos de modelos reais e criadores de conteúdo adulto, dando-lhes rostos gerados por IA e monetizando seus corpos com links para sites de namoro, por exemplo, Patreon, competições OnlyFans e vários aplicativos de IA.

Influenciadores gerados por IA competem com humanos no Instagram

Em abril, 404 Media relatou esta prática pela primeira vez, quando surgiu pela primeira vez. A prática agora cresceu para se tornar uma tendência popular que deixou muitos assumindo que a rede social gerida pela Meta é incapaz ou não está disposta a parar a aparente tendência em sua plataforma.

Isso ocorre enquanto os criadores de conteúdo humanos no Instagram dizem que agora estão competindo com conteúdo de IA de uma maneira que está impactando sua viabilidade.

Com algumas das ferramentas e aplicativos de IA prontos para uso hospedados nas Apple App e Google Play Stores, as influências de IA agora podem facilmente criar e monetizar suas contas. De acordo com a Wired, eles revisaram mais de 1.000 contas do Instagram geradas por IA e canais do Discord onde as pessoas que fazem esse conteúdo compartilham dicas e discutem estratégia e vários guias que explicam como ganhar dinheiro através de “prostituição por IA” (AI pimping).

Wired descobriu que o problema, que antes era menor no Instagram, havia crescido para se tornar uma prática enorme em linha com várias previsões sobre o futuro cenário das redes sociais, onde o conteúdo gerado por IA supera o dos humanos.

Criadores de conteúdo adulto que promovem seu trabalho no Instagram agora estão preocupados em competir diretamente com essas contas de plágio de IA, muitas das quais usam fotografias e vídeos roubados de criadores de conteúdo adulto e modelos do Instagram.

Elaina St James, uma criadora de conteúdo adulto, disse que, embora possa haver outras mudanças no algoritmo do Instagram que poderiam ter contribuído para isso, desde a explosão de contas de influenciadores geradas por IA no Instagram, seu “alcance caiu tremendamente”, de um típico de 1 milhão para 5 milhões de visualizações por mês. Ela não atingiu um milhão nos últimos 10 meses, e às vezes vem abaixo de 500.000 visualizações.

“Esta é provavelmente uma das razões pelas quais minhas visualizações estão diminuindo. É porque estou competindo com algo que é antinatural.” St James.

Alexios Mantzarlis, diretor da iniciativa de segurança, confiança e segurança no Cornell Tech e anteriormente principal de inteligência de confiança e segurança no Google, compilou uma lista de cerca de 900 contas na pesquisa da 404 Media.

Um sinal do que as redes sociais parecerão em breve

Mantzarlis disse que isso não era nada totalmente novo ou surpreendente, pois isso estava apenas cumprindo previsões feitas anteriormente sobre a tecnologia de IA e sua adoção em plataformas de redes sociais.

“Pareceu um possível sinal do que as redes sociais vão parecer em cinco anos”, disse Mantzarlis.

“Porque isso pode estar chegando a outras partes da Internet, não apenas ao nicho de pessoas atraentes no Instagram. Este é provavelmente um sinal de que vai ficar bastante ruim.”

Mantzarlis.

De mais de 1.000 contas de influenciadores do Instagram geradas por IA, pelo menos 100 incluíam conteúdo deepfake que pegava vídeos existentes, geralmente de modelos e performers de entretenimento adulto, e substituía seus rostos por um gerado por IA para dar aos vídeos uma aparência fresca.

Os vídeos parecerão novo conteúdo original consistente com as outras imagens e vídeos gerados por IA compartilhados pelo influenciador gerado por IA.

Instagram agirá ao receber reclamações

Instagram disse que tomaria ação sobre contas apenas se fossem reportadas pelo proprietário certo ou por alguém autorizado a reportar em seu nome. No entanto, muitos influenciadores humanos estão dizendo que o canal fornecido não tem funcionado, pois têm muitas contas de impostores para acompanhar.

St James acrescentou que o fato de muitas dessas contas de influenciadores gerados por IA estarem sendo operadas por mim adiciona insulto à lesão.

“Nós, como mulheres no mundo, ganhamos menos dinheiro. Estamos em desvantagem de muitas maneiras. Uma área do mundo onde temos uma vantagem é a coisa de influenciador e modelo, então é apenas uma camada extra”, disse St James.

“Isso meio que me deixa um pouco ofendida de ser um homem que está ganhando dinheiro fingindo ser uma mulher”, acrescentou.

Apple, que até agora falhou em resolver o problema de “uso duplo” de aplicativos de troca de rostos que podem ser usados inocentemente, mas são frequentemente usados para criar conteúdo não consensual, removeu da App Store após ser questionada sobre o assunto.