Ha surgido una nueva estafa relacionada con IA que incluye a miles de influencers generados por IA que han inundado sitios sociales como Instagram utilizando imágenes robadas de personas reales.
La estafa incluye robar videos de modelos reales y creadores de contenido para adultos, darles caras generadas por IA y monetizar sus cuerpos con enlaces a sitios de citas como Patreon, concursos OnlyFans y varias aplicaciones de IA.
Los influencers generados por IA compiten con los humanos en Instagram
En abril, 404 Media reportó por primera vez esta práctica, cuando salió a la luz. Esta práctica se ha convertido en una tendencia popular que ha llevado a muchos a asumir que la red social, dirigida por Meta, no puede o no quiere detener esta aparente tendencia en su plataforma.
Esto ocurre mientras los creadores de contenido humano en Instagram dicen que ahora están compitiendo con el contenido de IA de una manera que ahora está afectando su viabilidad.
Con algunas de las herramientas y aplicaciones de IA disponibles en las tiendas de aplicaciones de Apple y Google Play, los influencers de IA ahora pueden crear y monetizar sus cuentas fácilmente. Según Wired, analizaron más de 1000 cuentas de Instagram generadas por IA y canales de Discord donde quienes crean este contenido comparten consejos y debaten estrategias, además de varias guías que explican cómo generar ingresos mediante el "promocionamiento de IA".
Wired descubrió que el problema, que solía ser menor en Instagram, se había convertido en una gran práctica en línea con varias predicciones sobre el futuro panorama de las redes sociales, donde el contenido generado por IA eclipsa al de los humanos.
Los creadores de contenido para adultos que promocionan su trabajo en Instagram ahora están preocupados por competir directamente con estas cuentas fraudulentas de inteligencia artificial, muchas de las cuales utilizan fotografías y videos robados de creadores de contenido para adultos y modelos de Instagram.
Elaina St James, creadora de contenido para adultos, afirmó que, si bien otros cambios en el algoritmo de Instagram podrían haber contribuido a esto, desde la proliferación de cuentas de influencers generadas por IA en Instagram, su alcance se ha reducido drásticamente, pasando de un millón a cinco millones de visualizaciones mensuales. En los últimos diez meses no ha alcanzado el millón de visualizaciones, y en ocasiones se sitúa por debajo de las 500 000.
Probablemente esta sea una de las razones por las que mis visualizaciones están bajando. Es porque estoy compitiendo con algo antinatural. St. James.
Alexios Mantzarlis, director de la iniciativa de seguridad, confianza y protección en Cornell Tech y ex director de inteligencia de confianza y seguridad en Google, compiló una lista de alrededor de 900 cuentas en la investigación de 404 Media.
Mantzarlis dijo que esto no era nada totalmente nuevo o sorprendente, ya que simplemente cumplía predicciones hechas anteriormente sobre la tecnología de IA y su adopción en las plataformas de redes sociales.
"Parecía una posible señal de cómo serán las redes sociales dentro de cinco años", dijo Mantzarlis.
Porque esto podría estar llegando a otras partes de internet, no solo al nicho de personastracen Instagram. Probablemente sea una señal de que la cosa va a ser bastante mala
Mantzarlis.
De más de 1.000 cuentas de influencers de Instagram generadas con IA, al menos 100 incluyeron contenido deepfake que tomaba videos existentes, generalmente de modelos y artistas de entretenimiento para adultos, y reemplazaba sus rostros con uno generado con IA para darles a los videos una apariencia nueva.
Los videos se verán como contenido nuevo y original, coherente con las demás imágenes y videos generados por IA compartidos por el influencer generado por IA.
Instagram actuará ante las quejas recibidas
Instagram afirmó que solo tomaría medidas contra las cuentas denunciadas por el titular o una persona autorizada para hacerlo. Sin embargo, muchos influencers humanos afirman que el canal proporcionado no ha funcionado debido a que tienen demasiadas cuentas de imitadores a las que seguir.
St James agregó que el hecho de que muchas de estas cuentas de influencers generadas por IA estén siendo operadas por mí agrega insulto a la herida.
Como mujeres, ganamos menos dinero. Estamos en desventaja en muchos sentidos. Un área donde sí tenemos ventaja es en el mundo de las influencers y el modelaje, así que es simplemente una ventaja extra», dijo St James.
“Me desconcierta un poco que sea un hombre el que gane dinero haciéndose pasar por mujer”, añadió.
Apple, que hasta ahora no ha logrado resolver el problema del "doble uso" de las aplicaciones de intercambio de rostros que pueden usarse inocentemente pero que a menudo se utilizan para crear contenido no consentido, las eliminó de la App Store después de ser interrogada sobre el tema.
