Falhas na segurança infantil e enganos por parte da IA ​​corroem a confiança no TikTok

O TikTok está sob investigação formal do órgão regulador da internet do Reino Unido devido à forma como crianças estão burlando os filtros de idade da plataforma.

A Ofcom afirma que a abordagem do TikTok para verificação de idade não é suficiente, pois utiliza "inferência de idade" para estimar a idade com base no comportamento no aplicativo. O órgão regulador diz que a plataforma não atende aos requisitos legais.

Kate Davies, diretora de estratégia e pesquisa do grupo Ofcom, disse isso ao programa Today da BBC Radio 4.

“Temos sérias dúvidas sobre eles e, por isso, iniciamos uma investigação sobre o TikTok.” A inferência de idade, acrescentou ela, “não consta em nossas diretrizes como um método eficaz de verificação de idade”

O TikTok corre o risco de multas de até 10% da sua receita global

O TikTok pode ser multado em até 10% de sua receita global caso seja comprovado que violou as regras. Um porta-voz afirmou que a empresa está "dent" de que cumpre suas obrigações perante a Lei de Segurança Online e que investiu bilhões em segurança nos oito anos desde seu lançamento no Reino Unido.

Conforme noticiado recentemente pelo Cryptopolitan , o TikTok também teve que remover mais de 4 milhões de contas de menores de 16 anos na Indonésia.

Marcas reagiram aos vídeos de IA na loja TikTok

O TikTok Shop está no centro de uma disputa sobre vídeos de produtos gerados por inteligência artificial. As ferramentas da própria plataforma permitem que os vendedores produzam vídeos computadorizados com modelos virtuais demonstrando produtos, e permitem que ganhem comissões com eles. Criadores de conteúdo reais dizem que isso está reduzindo sua renda.

“Eu crio anúncios para produtos que tenho pessoalmente, avaliações reais, mostrando o produto de verdade”, disse Rosemarie Soma, criadora de conteúdo afiliada. “É muito frustrante para os afiliados porque esses vídeos [com IA] estão recebendo verba publicitária e gerando vendas.”

A SharkNinja enviou um comunicado aos seus vendedores afiliados, obtido pelo Wall Street Journal, informando que o AI Video Maker do TikTok está proibido de acordo com a política de conteúdo da plataforma e que qualquer pessoa que o utilize perderá suas comissões.

O diretor comercial Neil Shah disse: “Não queríamos um aspirador de pó Shark gerado por IA limpando um chão também gerado por IA. Queremos que consumidores reais vejam produtos reais sendo usados ​​por pessoas reais.”

da TikTok Shop nos EUA devem atingir US$ 23,41 bilhões este ano, um aumento de 48%, superando a Target e a Costco, de acordo com a eMarketer. O programa de afiliados cresceu de 2,3 milhões de criadores em 2024 para 11,3 milhões este ano, incluindo 945 mil nos EUA, segundo a Charm.io.

A criadora Daria Simhony, que publica pelo menos um vídeo gerado por IA por dia, disse: "Posso criar quem você precisar". Lauren Lyster, da Go Fish Digital, afirmou que as marcas que usam a opção de afiliados abertos assumem mais riscos. "Se você abrir as comportas, talvez precise ser um pouco mais tolerante ao risco, mas conseguirá muito mais escala", disse ela.

Um criador de conteúdo publicou vídeos com inteligência artificial promovendo a Rare Beauty, a marca de cosméticos fundada por Selena Gomez, sem qualquer ligação com a empresa. A Rare Beauty afirmou que não trabalha com conteúdo gerado por IA, embora seus produtos apareçam no programa de afiliados aberto do TikTok.

Shah, da SharkNinja, reconheceu que sua empresa tem pouco poder para impedir isso. "Nosso único pedido é: usem o produto original", disse ele.