Aumento de las fotos desnudas falsas generadas por IA, planteando amenazas para la privacidad y la vida

El auge de las herramientas de inteligencia artificial (IA) ha alimentado un alarmante aumento de imágenes y videos pornográficos falsos, planteando preocupaciones significativas sobre la privacidad y la explotación. Las víctimas, principalmente mujeres y adolescentes, se encuentran mal preparadas para la visibilidad que traen las fotos desnudas falsas generadas por IA.

La invasión de la privacidad

Gabi Belle, una influencer de YouTube, descubrió que su imagen se estaba utilizando en una fotografía falsa desnuda que circulaba por internet. La imagen la mostraba en una situación comprometida, aunque nunca había consentido dicho contenido. La experiencia de Belle no es única, ya que muchas personas, incluidas celebridades y adolescentes comunes, han sido víctimas de fotos desnudas falsas generadas por IA. Estas imágenes falsas pueden provocar vergüenza, extorsionar dinero o servir como una salida para fantasías privadas.

Crecimiento sin precedentes de fotos desnudas falsas

La inteligencia artificial ha permitido un aumento sin precedentes en imágenes y videos pornográficos falsos. En los 10 sitios web principales conocidos por alojar fotos pornográficas generadas por IA, el número de fotos desnudas falsas ha aumentado más de un 290 por ciento desde 2018, según la analista de la industria Genevieve Oh. Estos sitios presentan no solo a celebridades y figuras políticas, sino también a individuos desprevenidos cuyas imágenes han sido explotadas sin consentimiento.

Falta de protecciones legales

Las víctimas de pornografía falsa generada por IA tienen recursos limitados debido a la ausencia de leyes federales que regulen la pornografía deepfake. Solo un puñado de estados han promulgado regulaciones, dejando una brecha legal significativa. La reciente orden ejecutiva de IA del presidente Biden recomienda a las empresas que etiqueten el contenido generado por IA, pero no lo hace obligatorio. Los expertos legales argumentan que las imágenes falsas generadas por IA pueden no estar protegidas por los derechos de autor de las imágenes personales, ya que se basan en vastos conjuntos de datos.

Mujeres y adolescentes en riesgo particular

Las fotos desnudas falsas generadas por IA representan un riesgo significativo para las mujeres y los adolescentes, que a menudo se encuentran desprevenidos ante la repentina visibilidad. La investigación de Sensity AI, una empresa de monitoreo de deepfakes, revela que el 96 por ciento de las imágenes deepfake son pornográficas, con el 99 por ciento dirigidas a mujeres. El examen de Genevieve Oh de los 10 sitios web principales que alojan imágenes pornográficas falsas encontró que más de 415.000 de estas imágenes se habían subido solo en 2023, acumulando casi 90 millones de vistas.

Explosión de videos pornográficos generados por IA

Los videos pornográficos generados por IA también se han proliferado en la web. En 2023, se agregaron más de 143.000 videos falsos a los 40 sitios web más populares que presentan contenido deepfake, superando el número total de nuevos videos desde 2016 hasta 2022. Estos videos han obtenido más de 4.200 millones de vistas. El FBI ha advertido sobre un aumento en la extorsión sexual, con más de 26.800 personas cayendo víctimas de campañas de “sextorsión” a septiembre.

Protecciones limitadas de Google

El popular motor de búsqueda Google tiene políticas en vigor para evitar que las imágenes sexuales no consentidas aparezcan en los resultados de búsqueda. Sin embargo, sus protecciones para las imágenes deepfake no son tan robustas, permitiendo que la pornografía falsa generada por IA destaque prominentemente en los resultados de búsqueda. Google está trabajando para mejorar estas protecciones y tiene como objetivo construir salvaguardas que no requieran solicitudes individuales para la eliminación de contenido.

Desafíos para penalizar a los creadores

Penalizar a los creadores de contenido pornográfico falso generado por IA resulta desafiante. La Sección 230 de la Ley de Decencia en las Comunicaciones protege a las empresas de redes sociales de la responsabilidad por el contenido publicado en sus plataformas, dejando poco incentivo para que los sitios web policen dichas imágenes. Las víctimas pueden solicitar la eliminación de sus imágenes, pero el contenido generado por IA se basa en extensos conjuntos de datos, lo que dificulta probar violaciones de derechos de autor o infracciones de imagen personal.

Esfuerzos a nivel estatal y regulaciones variadas

Al menos nueve estados, incluyendo California, Texas y Virginia, han aprobado legislación contra los deepfakes. Sin embargo, estas leyes difieren en su alcance, con algunas permitiendo a las víctimas presentar cargos penales y otras permitiendo solo demandas civiles. Identificar a los responsables de la acción legal puede ser una tarea compleja.

La necesidad de regulaciones más fuertes

El impulso para regular las imágenes y videos generados por IA tiene como objetivo principal prevenir la distribución masiva y abordar las preocupaciones relacionadas con la interferencia electoral. Sin embargo, estas reglas hacen poco para mitigar el daño causado por la pornografía deepfake, que puede impactar severamente la vida de una persona, incluso si se comparte en grupos pequeños.

La proliferación de fotos desnudas falsas generadas por IA representa una grave amenaza para la privacidad y la integridad personal, particularmente para mujeres y adolescentes. La ausencia de leyes federales integrales y los desafíos para penalizar a los creadores de este contenido destacan la urgente necesidad de regulaciones y protecciones más fuertes. A medida que la IA continúa avanzando, abordar el creciente problema de la pornografía falsa generada por IA se vuelve cada vez más crítico para salvaguardar a las personas de la explotación y el daño en la era digital.