Fallas en la seguridad infantil y el engaño de IA erosionan la confianza en TikTok

TikTok está bajo investigación formal por el organismo regulador de internet del Reino Unido sobre cómo los niños engañan los filtros de edad en la plataforma.

Ofcom dice que el enfoque de TikTok para la verificación de edad no es suficiente, ya que utiliza “inferencia de edad” para estimar la edad a través del comportamiento en la aplicación. El regulador dice que carece de lo que exige la ley.

Kate Davies, directora de grupo de estrategia e investigación de Ofcom, dijo al programa Today de BBC Radio 4.

“Tenemos serias dudas sobre ellos, y por eso hemos lanzado una investigación sobre TikTok”. La inferencia de edad, agregó, “no está en nuestras directrices como un método efectivo de verificación de edad.”

TikTok arriesga multas de hasta 10% de los ingresos globales

TikTok podría ser multado con hasta el 10% de sus ingresos globales si se determina que ha violado las normas. Un portavoz dijo que la compañía está “segura” de que cumple con sus obligaciones bajo la Ley de Seguridad en Línea y ha gastado miles de millones en seguridad en los ocho años desde su lanzamiento en el Reino Unido.

Como informó recientemente Cryptopolitan, TikTok también tuvo que eliminar más de 4 millones de cuentas de menores de 16 años en Indonesia.

Las marcas responden a los videos de IA en TikTok Shop

TikTok Shop está en el centro de una disputa sobre videos de productos generados por IA. Las propias herramientas de la plataforma permiten a los vendedores producir clips generados por computadora que presentan modelos virtuales demostrando productos, y permiten ganar comisiones por ellos. Los creadores de la vida real dicen que esto está reduciendo sus ingresos.

“Creo anuncios para productos que tengo en persona, reseñas reales, mostrando el producto real”, dijo Rosemarie Soma, una creadora afiliada. “Es muy frustrante para los afiliados porque estos videos [de IA] están recibiendo gasto publicitario y generando ventas.”

SharkNinja envió un memorando a sus vendedores afiliados, obtenido por el Wall Street Journal, diciendo que el Creador de Video IA de TikTok está prohibido bajo su política de contenido y que cualquiera que lo use perderá sus comisiones.

El director comercial Neil Shah dijo: “No queríamos una aspiradora Shark generada por IA limpiando un piso generado por IA. Queremos consumidores reales viendo productos reales siendo usados por personas reales.”

Las ventas de TikTok Shop en EE. UU. se esperan que alcancen los 23.410 millones de dólares este año, un aumento del 48%, por delante de Target y Costco, según eMarketer. El programa de afiliados ha crecido de 2,3 millones de creadores en 2024 a 11,3 millones este año, incluyendo 945.000 en EE. UU., según Charm.io.

La creadora Daria Simhony, que publica al menos un video generado por IA por día, dijo: “Puedo crear a quienquiera que me necesites”. Lauren Lyster de Go Fish Digital dijo que las marcas que usan la opción de afiliado abierto asumen más riesgos. “Si abres las compuertas, quizás necesites ser un poco más tolerante al riesgo, pero vas a obtener mucha más escala”, dijo.

Un creador publicó videos de IA promocionando Rare Beauty, la marca de cosméticos fundada por Selena Gomez, sin conexión con la compañía. Rare Beauty dijo que no trabaja con contenido generado por IA, aunque sus productos aparecen en el plan de afiliado abierto de TikTok.

Shah de SharkNinja reconoció que su compañía tiene poco poder para detenerlo. “Nuestra única petición es, usen el producto real”, dijo.