Influencers generados por IA inundan Instagram y otras plataformas con identidad robada

Ha surgido un nuevo estafa relacionada con la IA que presenta miles de influencers generados por IA que han inundado sitios sociales como Instagram usando imágenes robadas de personas reales.

La estafa incluye robar videos de modelos reales y creadores de contenido para adultos, dándoles caras generadas por IA, y monetizando sus cuerpos con enlaces a sitios de citas, por ejemplo, Patreon, OnlyFans, competiciones y varias aplicaciones de IA.

Influencers generados por IA compiten con humanos en Instagram

En abril, 404 Media informó por primera vez esta práctica, cuando surgió por primera vez. La práctica ahora se ha convertido en una tendencia popular que ha dejado a muchos asumiendo que la red social gestionada por Meta es incapaz o no está dispuesta a detener la aparente tendencia en su plataforma.

Esto ocurre mientras los creadores de contenido humanos en Instagram dicen que ahora compiten con el contenido de IA de una manera que está afectando su viabilidad.

Con algunas de las herramientas y aplicaciones de IA fuera de la caja alojadas en las tiendas Apple App y Google Play, los influencers de IA ahora pueden crear y monetizar fácilmente sus cuentas. Según Wired, revisaron más de 1,000 cuentas de Instagram generadas por IA y canales de Discord donde las personas que crean este contenido comparten consejos y discuten estrategias y varias guías que explican cómo ganar dinero a través del "proxenetismo de IA".

Wired descubrió que el problema, que antes era menor en Instagram, se había convertido en una práctica enorme en línea con varias predicciones sobre el futuro paisaje de las redes sociales, donde el contenido generado por IA eclipsa al de los humanos.

Los creadores de contenido para adultos que promueven su trabajo en Instagram ahora están preocupados por competir directamente con estas cuentas de copia de IA, muchas de las cuales usan fotografías y videos robados de creadores de contenido para adultos y modelos de Instagram.

Elaina St James, una creadora de contenido para adultos, dijo que aunque puede haber otros cambios en el algoritmo de Instagram que podrían haber contribuido a esto, desde la explosión de cuentas de influencers generadas por IA en Instagram, su "alcance disminuyó tremendamente", de un típico de 1 millón a 5 millones de vistas al mes. No ha superado el millón en los últimos 10 meses, y a veces baja de 500,000 vistas.

"Esta es probablemente una de las razones por las que mis vistas están bajando. Es porque estoy compitiendo con algo que es antinatural." St James.

Alexios Mantzarlis, director de la iniciativa de seguridad, confianza y seguridad en Cornell Tech y anteriormente principal de inteligencia de confianza y seguridad en Google, compiló una lista de alrededor de 900 cuentas en la investigación de 404 Media.

Una señal de cómo se verán las redes sociales en breve

Mantzarlis dijo que esto no era nada totalmente nuevo o sorprendente, ya que simplemente cumplía con las predicciones hechas anteriormente sobre la tecnología de IA y su adopción en plataformas de redes sociales.

"Sentí que era una posible señal de cómo se verán las redes sociales en cinco años", dijo Mantzarlis.

"Porque esto puede estar llegando a otras partes de Internet, no solo al nicho de personas atractivas en Instagram. Esta es probablemente una señal de que va a estar bastante mal."

Mantzarlis.

De más de 1,000 cuentas de influencers de Instagram generadas por IA, al menos 100 incluían contenido deepfake que tomaba videos existentes, generalmente de modelos y performers de entretenimiento para adultos, y reemplazaba sus caras con una generada por IA para dar a los videos un aspecto fresco.

Los videos se verán como contenido nuevo y original consistente con las otras imágenes y videos generados por IA compartidos por el influencer generado por IA.

Instagram actuará al recibir quejas

Instagram dijo que tomaría medidas contra las cuentas solo si son reportadas por el propietario correcto o alguien autorizado para reportar en su nombre. Sin embargo, muchos influencers humanos dicen que el canal proporcionado no ha funcionado ya que tienen demasiadas cuentas de suplantadores para seguir.

St James añadió que el hecho de que muchas de estas cuentas de influencers generados por IA estén siendo operadas por hombres añade insulto a la herida.

"Nosotras, las mujeres en el mundo, ganamos menos dinero. Estamos en desventaja en muchas maneras. Un área del mundo donde sí tenemos una ventaja es en el tema de influencers y modelaje, así que es solo una capa adicional", dijo St James.

"Me hace sentir un poco pasada de que sea un hombre el que está ganando dinero fingiendo ser una mujer", añadió.

Apple, que hasta ahora ha fallado en resolver el problema de "doble uso" de las aplicaciones de cambio de rostro que pueden usarse inocentemente pero a menudo se usan para crear contenido no consensuado, eliminó del App Store después de ser cuestionada sobre el tema.