Las aplicaciones ‘Nudify’ impulsadas por IA ganan popularidad, generando preocupaciones

Una tendencia perturbadora está emergiendo a medida que las aplicaciones y sitios web que utilizan inteligencia artificial (IA) para desvestir a mujeres en fotos ganan una popularidad significativa, según investigaciones recientes. Estas aplicaciones, a menudo referidas como servicios “nudify”, han generado serias preocupaciones sobre privacidad, ética y consentimiento.

Popularidad en aumento

Solo en septiembre, aproximadamente 24 millones de personas visitaron estos sitios web de desvestido, según lo informado por Graphika, una empresa de análisis de redes sociales. Muchos de estos servicios se comercializan a través de redes sociales populares, y el número de enlaces que publicitan aplicaciones de desvestido en plataformas como X y Reddit ha aumentado en más del 2.400% desde el comienzo del año, según los investigadores. La función principal de estas aplicaciones es utilizar IA para manipular imágenes, creando una versión simulada desnuda del sujeto. Es importante notar que la mayoría de estos servicios apuntan exclusivamente a mujeres.

Dilemas éticos y legales

Estas aplicaciones impulsadas por IA son parte de una tendencia perturbadora asociada con la pornografía no consensual facilitada por los avances en la tecnología de IA, lo que ha llevado a la proliferación de pornografía deepfake. La pornografía deepfake generalmente implica la creación de medios fabricados, como videos o imágenes, a menudo sin el conocimiento o consentimiento del sujeto. Estas imágenes a menudo se obtienen de plataformas de redes sociales y se distribuyen sin el control o conocimiento del sujeto, presentando desafíos éticos y legales significativos.

Acoso en línea y violaciones de privacidad

Las preocupaciones han aumentado a medida que algunas de estas aplicaciones y servicios promueven comportamientos no consensuados y acoso. Por ejemplo, una imagen publicada en X que promocionaba una aplicación de desvestido sugería que los clientes podrían generar imágenes desnudas y enviarlas a los sujetos digitalmente desvestidos, incitando al acoso y abuso. Además, algunas de estas aplicaciones han pagado por contenido patrocinado en la plataforma YouTube de Google, apareciendo prominentemente en los resultados de búsqueda para términos como “nudify”. Sin embargo, Google ha declarado que no permite anuncios que contengan contenido sexualmente explícito y está eliminando activamente los anuncios que violan las normas. Hasta ahora, ni X ni Reddit han respondido a las solicitudes de comentario.

Proliferación de deepfakes

La pornografía no consensual que involucra a figuras públicas ha sido un problema de larga data en internet. Sin embargo, los expertos en privacidad están cada vez más alarmados por el hecho de que los avances en la tecnología de IA han hecho que el software deepfake sea más accesible y efectivo. Estas herramientas ahora se utilizan no solo por actores maliciosos, sino también por individuos comunes, incluidos estudiantes de secundaria y universidad, para atacar a víctimas desprevenidas.

Desafíos para abordar los deepfakes

Abordar el problema de la pornografía deepfake plantea desafíos significativos. Si bien existen leyes contra la generación de dicho contenido que involucra a menores, actualmente no hay una ley federal en los Estados Unidos que prohíba específicamente la creación de pornografía deepfake que involucre a adultos. Las fuerzas del orden a menudo enfrentan dificultades para investigar estos casos, y las víctimas pueden tener dificultades para obtener fondos para acciones legales.

En un desarrollo notable, un psiquiatra infantil en Carolina del Norte fue sentenciado a 40 años de prisión en noviembre por usar aplicaciones de desvestido en fotos de pacientes. Esto marcó el primer enjuiciamiento de este tipo bajo leyes que prohíben la generación de material de abuso sexual infantil deepfake.

Respuestas de las plataformas

En respuesta a las crecientes preocupaciones, las plataformas de redes sociales han tomado medidas. TikTok, por ejemplo, ha bloqueado la palabra clave “undress”, que está comúnmente asociada con estos servicios. Cuando los usuarios buscan este término, reciben una advertencia de que puede estar vinculada a comportamientos o contenido que violan las pautas de la plataforma. De manera similar, Meta Platforms Inc., la empresa matriz de Facebook, también ha comenzado a bloquear palabras clave asociadas con la búsqueda de aplicaciones de desvestido. Sin embargo, ambas empresas se negaron a proporcionar más comentarios sobre el asunto.

Consideraciones legales y éticas

La auge de las aplicaciones de IA llamadas "nudify" subraya la urgente necesidad de abordar las consideraciones legales y éticas en torno a la pornografía deepfake y el contenido no consentido generado por IA. Aunque la tecnología sigue avanzando, deben implementarse regulaciones y salvaguardas para proteger a las personas del acoso, las violaciones de privacidad y el uso indebido de la IA con fines dañinos.

En conclusión, la proliferación de aplicaciones impulsadas por IA capaces de generar desnudos deepfake no consentidos es una tendencia preocupante que destaca la urgencia de abordar los problemas éticos, legales y de privacidad en la era digital. A medida que la tecnología evoluciona, tanto los legisladores como las empresas tecnológicas deben tomar medidas proactivas para combatir el uso indebido de la IA con fines maliciosos y proteger a las personas de posibles daños.