Estrelas do Tik Tok Geradas por IA Sob Fogo por Promoverem Padrões Corporais Irreais

Em um desenvolvimento recente, a ParentsTogether, uma proeminente organização sem fins lucrativos de pais e famílias que defende uma internet mais segura para crianças, deu um passo ousado ao enviar uma carta aberta ao CEO do TikTok, Shou Zi Chew. 

A carta, assinada por mais de 12.000 pais, solicita ao TikTok que tome medidas imediatas para rotular claramente os influenciadores gerados por IA que muitas vezes se passam por indivíduos reais e promovem padrões de beleza irreais para crianças e adolescentes.

Influenciadores do Tik Tok Gerados por IA direcionados a públicos jovens

A ParentsTogether identificou uma tendência preocupante onde numerosos vídeos apresentando influenciadores gerados por IA estão sendo ativamente promovidos para as contas de usuários jovens. O que levanta alarmes é a falta de rótulos claros nesses vídeos, deixando crianças e adolescentes desavisados vulneráveis a ideais de beleza irreais perpetuados pela inteligência artificial. 

Esses influenciadores gerados por IA enganosos às vezes afirmam possuir rotinas de dieta, fitness ou cuidados com a pele, enganando mentes impressionáveis a acreditar que certos produtos ou comportamentos podem alcançar resultados semelhantes aos produzidos por algoritmos de computador.

O aviso parental: Navegando pelo cenário de influenciadores de IA

Em resposta a essa preocupação crescente, a ParentsTogether emitiu um aviso parental para seus membros, instando os pais a permanecerem vigilantes quanto ao conteúdo de influenciadores de IA infiltrando-se nos feeds de mídia social de seus filhos. 

O aviso enfatiza que os influenciadores falsos criados por programas de computador são frequentemente indistinguíveis de pessoas reais, tornando imperativo que os pais eduquem seus filhos sobre como reconhecer e diferenciar essas contas geradas por IA.

Desafios de rotulagem e dano oculto

Um dos desafios centrais reside no rotulagem de conteúdo gerado por IA em plataformas como o TikTok. Embora a responsabilidade recaia principalmente nos criadores de conteúdo para designar seu trabalho como gerado por IA, há uma falta de consenso sobre um rótulo padronizado. As empresas frequentemente empregam termos vagos como “garota virtual” ou “influenciador virtual”, contribuindo para a confusão. Além disso, muitos vídeos gerados por IA permanecem sem rótulo, exigindo que os usuários jovens mergulhem no perfil do influenciador para discernir que o conteúdo não é a criação de um indivíduo real.

Uma preocupação crescente: O impacto na imagem corporal das crianças

O surgimento de influenciadores gerados por IA é um fenômeno relativamente recente, mas as consequências prejudiciais da tecnologia impulsionada por IA na imagem corporal das crianças já foram observadas. Uma pesquisa realizada pela ParentsTogether em setembro de 2021 revelou insights preocupantes:

Adolescentes que passam tempo excessivo online, particularmente nas redes sociais (18+ horas por semana), têm quase o dobro de probabilidade de não gostar de sua própria aparência em comparação com aqueles que passam menos tempo online (menos de 8 horas por semana).

Adolescentes que usam filtros de beleza regularmente exibem um interesse duas vezes maior em cirurgia plástica e um interesse quatro vezes maior em alterar a cor da pele, em comparação com seus pares que usam filtros com menos frequência.

Um significativo 61% dos adolescentes relatou que usar filtros de beleza os faz sentir pior sobre sua aparência na vida real.

Surpreendentemente, mais da metade (52%) dos adolescentes admitiu usar filtros de beleza para modificar seus traços faciais.

O desafio real ou falso: A luta para identificar filtros de beleza

Para ilustrar ainda mais o problema em questão, a ParentsTogether conduziu um quiz “Real ou Falso?”, apresentando aos adolescentes 10 fotos de celebridades das redes sociais, algumas filtradas e outras não. 

Um impressionante 70% dos participantes recebeu uma nota reprovatória, indicando sua dificuldade em distinguir entre imagens aprimoradas por filtros de beleza e aquelas que refletem aparências naturais. Isso destaca o desafio substancial enfrentado pelos adolescentes ao identificar o uso de filtros de beleza nas redes sociais.

O papel do TikTok na proteção dos usuários jovens

Shelby Knox, diretora de campanha na ParentsTogether, expressou profunda preocupação sobre a prevalência crescente de influenciadores gerados por IA no TikTok. Knox enfatiza o perigo representado para crianças e adolescentes, afirmando que esses algoritmos de computador se apresentam convincentemente como indivíduos reais modelando padrões de beleza, dieta e exercício inatingíveis. Tal conteúdo enganoso tem o potencial de desencadear distúrbios alimentares e contribuir para a dismorfia corporal entre os usuários jovens.

Knox conclui afirmando que a TikTok tem uma responsabilidade significativa em relação ao seu público jovem. A plataforma deve tomar medidas decisivas para garantir a rotulagem clara de influenciadores de IA e virtuais em todos os seus vídeos. 

Isso, por sua vez, capacitará pais e responsáveis a protegerem seus filhos dos efeitos adversos dos padrões de beleza irreais perpetuados pelo conteúdo gerado por IA.