Se insta a las empresas tecnológicas a combatir el aumento de material de abuso sexual infantil generado por IA

El año pasado fue calificado como el "año más extremo registrado" por la organización benéfica británica Internet Watch Foundation (IWF), que descubrió la alarmante cifra de 275.652 casos de de abuso en línea, con un número escalofriante de víctimas que fueron coaccionadas por depredadores para crear material explícito. La organización hizo un llamamiento a las empresas tecnológicas y a las plataformas en línea para que actúen con rapidez, dado que las regulaciones se han ralentizado y la inteligencia artificial...

“Cada URL puede revelar solo una, una docena, cientos o incluso miles de esas imágenes o videos individuales de abuso sexual infantil”, dice el informe (92%) (con la propia actividad o con la ayuda o coacción de una red social para actuar a través de una cámara web).

Hallazgos de la IWF

Según la IWF, las cifras se obtuvieron a partir de una búsqueda proactiva y un análisis de casi 400.000 informes en todo el mundo a través de más de 50 portales de denuncia. Esto representa un aumento del 8 % con respecto al año anterior.

Estados Unidos fue el país líder con el 14,8% de los sitios web, con 41.502 URL, un aumento de un porcentaje del país como anfitrión respecto del año reciente del 34%, un tercio de todos los sitios web anexos.

La IWF afirmó que el análisis reveló que 2401 videos autogenerados de niños de entre 3 y 6 años provenían de este estudio. La mayoría de estos niños eran niñas, lo cual demuestra cómo los abusadores, considerados "oportunistas", hoy en día son muy activos en el abuso sexual, no solo de adolescentes, sino también de niños pequeños.

Medidas a tomar 

La postura de la IWF es que las empresas tecnológicas y las plataformas en línea deberían reforzar de inmediato estas medidas de seguridad para los niños en línea, en lugar de depender de que los gobiernos adopten medidas regulatorias muy complejas o de que se demore más tiempo para que esta actividad entre en vigor en el Reino Unido con su Ley de Seguridad en Línea. La IWF reveló que la categoría de contenido también experimentó un aumento del 22 % en comparación con 2022. Según la IWF, la creciente frecuencia de visualización de este tipo de contenido extremo es una de las tendencias; de 2021 a 2022, la cantidad de contenido de categoría A aumentó un 38 %. 

También está aumentando el número de casos de extorsión sexual (el uso de imágenes/archivos de niños, información o videos que los perpetradores pueden usar para chantajear a sus víctimas y obtener más imágenes o dinero). La agencia registró solo 6 casos de este tipo en 2021, cuando introdujo el mecanismo de conteo. El año pasado, mencionó que la institución vio 176 casos relacionados con la extorsión sexual. La fundación enfatizó que la evidencia que la IA recibe y genera se está convirtiendo en una seria amenaza para los niños en Internet. En el año 2023, IWF concluyó que había procesado 51 páginas web que contenían imágenes generadas automáticamente de abuso sexual infantil, 38 con apariencia de ser reales. 

De esta forma, se incluyeron en los informes estadísticos como imágenes “reales”. Además, otras 228 URL tenían contenido generado por IA. Aunque solo un pequeño porcentaje del material examinado por IWF es generado por computadora, la organización benéfica está alarmada por el “potencial de rápido crecimiento”. Este es el caso, especialmente en dominios como la publicación de manuales sobre cómo crear o distribuir material pornográfico infantil a través de IA, que puede quedar fuera de los marcos legales existentes. IWF dijo que encontró un manual en DW que explicaba cómo los perpetradores “Hemos visto este comportamiento antes, pero el hecho de que esta sea la primera evidencia de criminales actuando en conjunto para aconsejarse y alentarse mutuamente a usar IA con fines de autodefensa es particularmente inquietante”, supuestamente comentó IWF.