La Fundación Internet Watch Foundation advierte que los avances de la IA podrían empeorar el CSAM
Enacy Mapakame
3 min de lectura
- La IWF ha advertido sobre un posible aumento del CSAM generado por IA a medida que las herramientas de IA generativa se vuelven más accesibles y sofisticadas.
- La IWF ya ha observado que el CSAM creado en 2024 parece “más realista” que el de 2023.
- El organismo supervisor está impulsando ahora leyes que tipifiquen como delito la producción y difusión de CSAM.
La Internet Watch Foundation (IWF) está preocupada por que la prevalencia de material de abuso sexual infantil generado por IA (CSAM) en internet pueda seguir aumentando, impulsada por los avances en las herramientas de IA.
También lea: Los deepfakes de IA están dificultando que las autoridades de EE. UU. protejan a los niños, según un informe
El organismo de seguridad ha indicado que a medida que las herramientas de IA generativa se vuelven sofisticadas, también se ha vuelto difícil distinguir entre imágenes o videos reales y contenido falso generado por IA. Según la organización, las imágenes generadas por IA de 2024 se han vuelto más “realistas” que las que se vieron por primera vez en 2023.
La Internet Watch Foundation ve un aumento en el CSAM
La IWF está preocupada por más El CSAM generado por IA podría encontrar su camino en internet ya que los pervertidos aprovechan los avances en la tecnología de IA, lo que hace las herramientas más fáciles de usar y más extendidas. El organismo de seguridad ya ha notado un aumento en el CSAM generado por IA en internet.
La organización ya ha notado casos de manipulación de CSAM, mientras que otros casos involucraban pornografía para adultos pero con el rostro de un niño utilizado en el video. Según la IWF, parte del contenido involucraba videos de aproximadamente 20 segundos de duración.
El director de tecnología de la IWF, Dan Sexton, reveló que hay posibilidades de que surja más CSAM generado por IA si las herramientas de video de IA siguen la misma tendencia que las herramientas de generación de imágenes de IA, ya que la tecnología está creciendo a un ritmo rápido.
“Diría tentativamente que si sigue las mismas tendencias, entonces veremos más videos”, dijo.
Sexton agregó que también hay altas posibilidades de que los futuros videos de IA sean de “mayor calidad y realismo”.
Según los analistas de la IWF, la mayoría de los videos que fueron revisados por la organización en un foro oscuro por pedófilos eran deepfakes parciales. En este caso, se utilizaron modelos de IA disponibles libremente en internet para manipular las imágenes, incluidas las de víctimas conocidas de CSAM, en videos de CSAM existentes y pornografía para adultos.
La organización encontró nueve de estos videos, mientras que un pequeño número de videos completamente hechos por IA eran de calidad básica.
(1/4) #AI panorama del material de abuso sexual infantil – El año pasado, fuimos de los primeros en alertar sobre la proliferación de imágenes realistas generadas por #AI de abuso sexual infantil… pic.twitter.com/s4igkjHH78
— Internet Watch Foundation (IWF) (@IWFhotline) 22 de julio de 2024
El organismo quiere criminalizar la producción de CSAM
La IWF ahora está impulsando leyes que criminalicen la producción de este material, incluyendo la creación de guías para hacer dicho contenido. También debería criminalizar el desarrollo de herramientas y plataformas que permitan la creación de CSAM.
Esto ocurre mientras un estudio realizado este año de un solo foro de la dark web reveló 12.000 nuevas imágenes generadas por IA publicadas durante un período de un mes.
Según la IWF, nueve de cada diez de esas imágenes eran realistas, y podrían ser procesadas bajo las mismas leyes del Reino Unido que cubren el CSAM real.
También lea: Hombre de Texas condenado por comprar pornografía infantil con criptomonedas
El año pasado, el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) dijo que recibió numerosos informes de pervertidos usando IA de diversas maneras, como ingresar prompts de texto para crear imágenes de abuso infantil. En algunos casos, los depredadores alteraron imágenes previamente subidas para hacerlas sexualmente explícitas y abusivas.
La directora ejecutiva de la IWF, Susie Hargreaves, destacó la necesidad de regular las herramientas de IA generativa para limitar la proliferación de material de abuso sexual infantil (CSAM).
“Sin controles adecuados, las herramientas de IA generativa proporcionan un campo de juego para que los depredadores en línea realicen sus fantasías más perversas y repugnantes”, dijo Hargreaves.
Hargreaves añadió que la IWF estaba comenzando a ver más CSAM siendo compartido y vendido en sitios comerciales de abuso sexual infantil.
Según The Guardian, otra organización que opera una línea directa para reportar abusos reveló que encontró CSAM creado por IA en venta en plataformas en línea por parte de delincuentes.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Enacy Mapakame
Enacy Mapakame es una periodista con más de 10 años de experiencia en noticias empresariales y financieras. Cubre los mercados de capitales y las tecnologías emergentes: el metaverso, la inteligencia artificial y las criptomonedas. Enacy posee un título de licenciatura con honores en Estudios de Medios y Sociedad.
