Se insta a las empresas tecnológicas a combatir el aumento del material de abuso sexual infantil generado por IA

El año pasado fue calificado como el "año más extremo registrado" por la organización benéfica del Reino Unido Internet Watch Foundation (IWF), que descubrió una alarmante cifra de 275.652 casos de imágenes de abuso sexual infantil en línea, con un número aterrador de ellos siendo víctimas de depredadores que las coaccionaron para crear materiales explícitos, instando a las empresas tecnológicas y plataformas en línea a actuar rápidamente, ya que las regulaciones se han ralentizado y la Inteligencia Artificial

"Cada URL puede revelar solo uno, una docena, cientos o incluso miles de esas imágenes o videos individuales de abuso sexual infantil en su lugar", dijo el informe (92%) (con auto o coaccionado o ayuda de red social para realizar sobre una webcam").

Hallazgos de IWF

Según IWF, los números se derivaron de "búsqueda proactiva" y un análisis de casi 400.000 informes en todo el mundo a través de más de 50 portales de denuncia. Esto representa un aumento del 8% con respecto al año anterior.

EE. UU. fue el país líder con el 14,8% de los sitios web, con 41.502 URLs, un aumento de una proporción de la nación como anfitrión sobre el año reciente del 34%, un tercio de todos los sitios web anexados.

IWF dijo que el análisis mostró que 2.401 videos generados por sí mismos de niños de 3 a 6 años estaban fuera de esto. La mayoría de esos niños eran niñas, lo cual es una bandera que muestra cómo los abusadores considerados "oportunistas" hoy en día son muy activos en el abuso sexual no solo con niños adolescentes sino también con niños pequeños.

Medidas a tomar 

Es la postura de IWF que "las empresas de tecnología y las plataformas en línea" deberían inmediatamente reforzar tales medidas de seguridad para los niños en línea en lugar de depender de que los gobiernos tomen la dolorosa acción de hacer regulaciones o perder más tiempo para que esta actividad entre en vigor en el Reino Unido con su Ley de Seguridad en Línea. IWF reveló que la Categoría de material también vio un aumento del 22% en comparación con 2022. Este contenido extremo siendo visto cada vez más frecuentemente es una de las tendencias, según IWF; de 2021 a 2022, la cantidad de contenido de Categoría A aumentó en un 38%. 

El número de casos de sextorsión – el uso de imágenes/archivos de niños, información o videos que los perpetradores pueden luego usar para chantajear a sus víctimas por más imágenes/dinero – también está aumentando. La agencia registró solo 6 casos de este tipo en 2021 cuando introdujeron el mecanismo de suspensión. El año pasado, mencionó que la institución vio 176 casos relacionados con sextorsión. La fundación enfatizó que la evidencia IA recibe y genera se está convirtiendo en una seria amenaza para los niños en Internet. En el año 2023, IWF concluyó que había procesado 51 páginas web que contenían imágenes generadas automáticamente de abuso sexual infantil, 38 con la apariencia de que eran reales.

De esta manera, fueron contenidos en los informes estadísticos como imágenes "reales". Además, otros 228 URLs tenían contenido generado por IA. Aunque solo un pequeño porcentaje del material escrutinado por IWF es generado por computadora, la caridad está alarmada por el "potencial de crecimiento rápido". Este es el caso, especialmente en dominios como la publicación de manuales sobre cómo crear o distribuir material pornográfico infantil a través de IA, lo que puede caer fuera de los marcos legales existentes. IWF dijo que encontró un texto manual en DW explicando cómo los perpetradores "Hemos visto este comportamiento antes, pero el hecho de que esta sea la primera evidencia de criminales actuando en concierto para aconsejarse y animarse mutuamente a usar la IA con propósitos de autodefensa es particularmente perturbador" comentó supuestamente IWF.