Ha surgido una nueva estafa relacionada con la IA que presenta a miles de personas influyentes generadas por la IA que han inundado sitios sociales como Instagram utilizando imágenes robadas de personas reales.
La estafa incluye robar videos de modelos reales y creadores de contenido para adultos, darles caras generadas por IA y monetizar sus cuerpos con enlaces a sitios de citas, como Patreon, concursos de Onlyfans y varias aplicaciones de IA.
Los influencers generados por IA compiten con los humanos en Instagram
En abril, 404 Media informó por primera vez sobre esta práctica, cuando surgió por primera vez. La práctica ahora se ha convertido en una tendencia popular que ha dejado a muchos asumiendo que la red social Meta-run no puede o no quiere detener la aparente tendencia en su plataforma.
Esto se produce cuando los creadores de contenido humano en Instagram dicen que ahora están compitiendo con el contenido de IA de una manera que ahora está afectando su viabilidad.
Con algunas de las herramientas y aplicaciones de IA disponibles en el mercado alojadas en la aplicación Apple y en Google Play Stores, las influencias de la IA ahora pueden crear y monetizar fácilmente sus cuentas. Según Wired, revisaron más de 1.000 cuentas de Instagram generadas por canales de IA y Discord donde las personas que realizan este contenido comparten consejos y discuten estrategia y varias guías que explican cómo ganar dinero a través del “proxenetismo de IA”.
Wired descubrió que el problema, que solía ser menor en Instagram, se había convertido en una práctica enorme, en línea con varias predicciones sobre el panorama futuro de las redes sociales, donde el contenido generado por IA eclipsa al de los humanos.
Los creadores de contenido para adultos que promocionan su trabajo en Instagram ahora están preocupados por competir directamente con estas cuentas fraudulentas de IA, muchas de las cuales utilizan fotografías y videos robados de creadores de contenido para adultos y modelos de Instagram.
Elaina St James, creadora de contenido para adultos, dijo que si bien puede haber otros cambios en el algoritmo de Instagram que podrían haber contribuido a esto, desde que la explosión de la IA generó cuentas de influencers en Instagram, su "alcance disminuyó enormemente", de un millón típico a 5. Millones de visitas al mes. No ha superado el millón en los últimos 10 meses y, en ocasiones, llega a menos de 500.000 visitas.
“Esta es probablemente una de las razones por las que mis puntos de vista están bajando. Es porque estoy compitiendo con algo que no es natural”. Santiago.
Alexios Mantzarlis, director de la iniciativa de seguridad, confianza y protección de Cornell Tech y ex director de inteligencia de confianza y seguridad de Google, compiló una lista de alrededor de 900 cuentas en la investigación de 404 Media.
Mantzarlis dijo que esto no era nada totalmente nuevo o sorprendente, ya que simplemente cumplía las predicciones hechas anteriormente sobre la tecnología de inteligencia artificial y su adopción en las plataformas de redes sociales.
"Parecía una posible señal de cómo serán las redes sociales dentro de cinco años", dijo Mantzarlis.
“Porque esto puede estar llegando a otras partes de Internet, no sólo al nicho de personastracen Instagram. Probablemente esto sea una señal de que la situación va a ser bastante mala”.
Mantzarlis.
De más de 1.000 cuentas de influencers de Instagram generadas por IA, al menos 100 incluían contenido deepfake que tomaba videos existentes, generalmente de modelos y artistas de entretenimiento para adultos, y reemplazaba sus rostros con uno generado por IA para darles a los videos una nueva apariencia.
Los videos se verán como contenido nuevo y original consistente con las otras imágenes y videos generados por IA compartidos por el influencer generado por IA.
Instagram actuará al recibir denuncias
Instagram dijo que tomaría medidas sobre las cuentas sólo si son denunciadas por el propietario adecuado o por alguien autorizado para informar en su nombre. Sin embargo, muchos influencers humanos dicen que el canal proporcionado no ha funcionado porque tienen demasiadas cuentas de imitadores para seguir.
St James agregó que el hecho de que muchas de estas cuentas de influencers generadas por IA sean operadas por mí es un insulto a la herida.
“Nosotras, como mujeres en el mundo, ganamos menos dinero. Estamos en desventaja en muchos sentidos. Un área del mundo en la que tenemos una ventaja es la del influencer y el modelaje, por lo que es sólo una capa extra”, dijo St James.
"Me da un poco de desconcierto que sea un tipo que esté ganando dinero haciéndose pasar por una mujer", añadió.
Apple , que hasta ahora no ha logrado resolver el problema del “doble uso” de las aplicaciones de intercambio de rostros que pueden usarse inocentemente pero que a menudo se usan para crear contenido no consensual, fue eliminada de la App Store después de que se le preguntara sobre el problema.
Academia Cryptopolitan: ¿Quieres hacer crecer tu dinero en 2025? Aprenda cómo hacerlo con DeFi en nuestra próxima clase web. Guarda tu lugar
