Aumento de desnudos falsos generados por IA, amenazando la privacidad y la vida

El auge de las herramientas de inteligencia artificial (IA) ha impulsado un preocupante aumento de imágenes y vídeos pornográficos falsos, lo que genera importantes preocupaciones sobre la privacidad y la explotación. Las víctimas, principalmente mujeres y adolescentes, se encuentran mal preparadas para la visibilidad que aportan los desnudos falsos generados por IA.

La invasión de la privacidad

Gabi Belle, influencer de YouTube, descubrió que su imagen estaba siendo utilizada en una fotografía falsa de desnudos que circulaba por internet. La imagen la mostraba en una situación comprometedora, a pesar de que nunca había dado su consentimiento para dicho contenido. La experiencia de Belle no es única, ya que muchas personas, incluyendo celebridades y adolescentes comunes, han sido víctimas de desnudos falsos generados por IA. Estas imágenes falsas pueden incitar vergüenza, extorsionar o servir como válvula de escape para fantasías privadas.

Crecimiento sindenten desnudos falsos

La inteligencia artificial ha propiciado un auge sindentde imágenes y vídeos pornográficos falsos. En los 10 principales sitios web conocidos por albergar fotos porno generadas por IA, la cantidad de desnudos falsos ha aumentado más de un 290 % desde 2018, según la analista del sector Genevieve Oh. Estos sitios no solo presentan a celebridades y figuras políticas, sino también a personas inocentes cuya imagen ha sido explotada sin su consentimiento.

Falta de protección legal

Las víctimas de pornografía falsa generada por IA tienen recursos limitados debido a la ausencia de leyes federales que regulen la pornografía deepfake. Solo unos pocos estados han promulgado regulaciones, lo que deja un importante vacío legal. La reciente orden ejecutivadent IA del presidente Biden recomienda a las empresas etiquetar el contenido generado por IA, pero no lo obliga. Los expertos legales argumentan que las imágenes falsas generadas por IA podrían no estar amparadas por las protecciones de derechos de autor para la imagen personal, ya que se basan en vastos conjuntos de datos.

Mujeres y adolescentes en riesgo particular

Los desnudos falsos generados por IA representan un riesgo significativo para mujeres y adolescentes, quienes a menudo no están preparadas para su repentina visibilidad. Un estudio de Sensity AI, empresa de monitoreo de deepfakes, revela que el 96 % de las imágenes deepfakes son pornográficas, y el 99 % están dirigidas a mujeres. El análisis de Genevieve Oh de los 10 principales sitios web que albergan imágenes pornográficas falsas reveló que, solo en 2023, se habían subido más de 415 000 imágenes de este tipo, acumulando casi 90 millones de visitas.

Explosión de vídeos porno generados por IA

Los vídeos porno generados por IA también han proliferado en la web. En 2023, se añadieron más de 143.000 vídeos falsos a los 40 sitios web más populares con contenido deepfake, superando la cantidad total de vídeos nuevos entre 2016 y 2022. Estos vídeos han acumulado más de 4.200 millones de visualizaciones. El Buró Federal de Investigaciones (FBI) ha advertido sobre un aumento de la extorsión sexual, con más de 26.800 personas víctimas de campañas de "sextorsión" hasta septiembre.

Protecciones limitadas de Google

El popular motor de búsqueda Google cuenta con políticas para evitar que aparezcan imágenes sexuales no consensuadas en los resultados de búsqueda. Sin embargo, sus protecciones para las imágenes deepfake no son tan sólidas, lo que permite que la pornografía falsa generada por IA aparezca de forma destacada en los resultados de búsqueda. Google está trabajando para mejorar estas protecciones y busca crear salvaguardas que no requieran solicitudes individuales para la eliminación de contenido.

Desafíos en la penalización de los creadores

Penalizar a los creadores de contenido pornográfico falso generado por IA resulta complicado. El artículo 230 de la Ley de Decencia en las Comunicaciones exime a las empresas de redes sociales de responsabilidad por el contenido publicado en sus plataformas, lo que deja pocos incentivos para que los sitios web vigilen dichas imágenes. Las víctimas pueden solicitar la eliminación de sus imágenes, pero el contenido generado por IA se basa en amplios conjuntos de datos, lo que dificulta demostrar violaciones de derechos de autor o de la imagen personal.

Esfuerzos a nivel estatal y regulaciones variadas

Al menos nueve estados, incluyendo California, Texas y Virginia, han aprobado leyes contra los deepfakes. Sin embargo, estas leyes difieren en su alcance: algunas permiten a las víctimas presentar cargos penales, mientras que otras solo permiten demandas civiles.denta los responsables de acciones legales puede ser una tarea compleja.

La necesidad de regulacionestron

La iniciativa para regular las imágenes y vídeos generados por IA busca principalmente prevenir la distribución masiva y abordar las preocupaciones relacionadas con la interferencia electoral. Sin embargo, estas normas apenas mitigan el daño causado por la pornografía deepfake, que puede afectar gravemente la vida de una persona, incluso si se comparte en grupos pequeños.

La proliferación de desnudos falsos generados por IA representa una grave amenaza para la privacidad y la integridad personal, especialmente para mujeres y adolescentes. La ausencia de leyes federales integrales y las dificultades para penalizar a los creadores de dicho contenido resaltan la urgente necesidad de regulaciones y protecciones mástron. A medida que la IA continúa avanzando, abordar el creciente problema de la pornografía falsa generada por IA se vuelve cada vez más crucial para proteger a las personas de la explotación y el daño en la era digital.