Las aplicaciones 'Nudify' impulsadas por IA ganan popularidad y generan preocupación

Una tendencia preocupante está surgiendo a medida que las aplicaciones y sitios web que utilizan inteligencia artificial (IA) para desnudar a mujeres en fotos ganan popularidad, según investigaciones recientes. Estas aplicaciones, a menudo conocidas como servicios de "desnudez", han suscitado serias preocupaciones sobre la privacidad, la ética y el consentimiento.

Aumento de popularidad

Solo en septiembre, aproximadamente 24 millones de personas visitaron estos sitios web de desnudez, según Graphika, una empresa de análisis de redes sociales. Muchos de estos servicios se comercializan a través de redes sociales populares, y el número de enlaces que anuncian aplicaciones de desnudez en plataformas como X y Reddit ha aumentado más de un 2400 % desde principios de año, según investigadores. La función principal de estas aplicaciones es usar IA para manipular imágenes, creando una versión simulada de desnudo del sujeto. Es importante destacar que la mayoría de estos servicios se dirigen exclusivamente a mujeres.

Dilemas éticos y legales

Estas aplicaciones impulsadas por IA forman parte de una tendencia preocupante asociada con la pornografía no consentida, facilitada por los avances en la tecnología de IA, lo que ha provocado la proliferación de la pornografía deepfake. Esta pornografía generalmente implica la creación de contenido multimedia falso, como vídeos o imágenes, a menudo sin el conocimiento ni el consentimiento del sujeto. Estas imágenes suelen provenir de plataformas de redes sociales y se distribuyen sin el control ni la conciencia del sujeto, lo que plantea importantes desafíos éticos y legales.

Acoso en línea y violaciones de la privacidad

La preocupación ha aumentado a medida que algunas de estas aplicaciones y servicios promueven comportamientos no consensuados y acoso. Por ejemplo, una imagen publicada en X que promocionaba una aplicación para desvestirse sugería que los usuarios podían generar imágenes de desnudos y enviárselas a los sujetos desnudos digitalmente, incitando al acoso y al abuso. Además, algunas de estas aplicaciones han pagado por contenido patrocinado en la plataforma YouTube de Google, apareciendo de forma destacada en los resultados de búsqueda para términos como "nudify". Sin embargo, Google ha declarado que no permite anuncios con contenido sexualmente explícito y que está eliminando activamente los anuncios que infringen la normativa. Hasta el momento, ni X ni Reddit han respondido a las solicitudes de comentarios.

Proliferación de deepfakes

La pornografía no consentida que involucra a figuras públicas ha sido un problema recurrente en internet. Sin embargo, los expertos en privacidad están cada vez más alarmados por los avances en la tecnología de inteligencia artificial que han hecho que el software deepfake sea más accesible y efectivo. Estas herramientas ahora son utilizadas no solo por actores maliciosos, sino también por personas comunes, incluyendodentde secundaria y universitarios, para atacar a víctimas desprevenidas.

Desafíos para abordar los deepfakes

Abordar el problema de la pornografía deepfake plantea importantes desafíos. Si bien existen leyes que prohíben la creación de este tipo de contenido que involucre a menores, actualmente no existe una ley federal en Estados Unidos que prohíba específicamente la creación de pornografía deepfake que involucre a adultos. Las fuerzas del orden a menudo enfrentan dificultades para investigar estos casos, y las víctimas pueden tener dificultades para obtener fondos para acciones legales.

En un hecho notable, un psiquiatra infantil de Carolina del Norte fue condenado a 40 años de prisión en noviembre por usar aplicaciones de desnudez en fotos de pacientes. Esto marcó el primer procesamiento de este tipo bajo las leyes que prohíben la generación de material deepfake de abuso sexual infantil.

Respuestas de la plataforma

En respuesta a la creciente preocupación, las plataformas de redes sociales han tomado medidas. TikTok, por ejemplo, ha bloqueado la palabra clave "desnudar", comúnmente asociada con estos servicios. Cuando los usuarios buscan este término, reciben una advertencia indicando que podría estar vinculado a comportamientos o contenido que infringen las directrices de la plataforma. De igual manera, Meta Platforms Inc., la empresa matriz de Facebook, también ha comenzado a bloquear palabras clave asociadas con la búsqueda de aplicaciones para desvestirse. Sin embargo, ambas empresas se negaron a hacer más comentarios al respecto.

Consideraciones legales y éticas

El auge de las aplicaciones de "desnudez" impulsadas por IA subraya la urgente necesidad de abordar las consideraciones legales y éticas en torno a la pornografía deepfake y el contenido no consensuado generado mediante IA. Mientras la tecnología continúa avanzando, es necesario implementar regulaciones y salvaguardas para proteger a las personas del acoso, las violaciones de la privacidad y el uso indebido de la IA con fines perjudiciales.

En conclusión, la proliferación de aplicaciones basadas en IA capaces de generar desnudos deepfake no consensuados es una tendencia preocupante que pone de relieve la urgencia de abordar las cuestiones éticas, legales y de privacidad en la era digital. A medida que la tecnología evoluciona, tanto los legisladores como las empresas tecnológicas deben tomar medidas proactivas para combatir el uso indebido de la IA con fines maliciosos y proteger a las personas de posibles daños