Los deepfakes de IA están dificultando que las autoridades de EE. UU. protejan a los niños, según un informe

El gran volumen de deepfakes de IA sexualmente explícitos de niños está dificultando que las fuerzas del orden en EE. UU. separen a los niños reales en dificultades de los falsos, advirtieron fiscales y grupos de seguridad. Dicen que las imágenes son tan realistas que se ha vuelto difícil saber si los niños reales han sido abusados, informa el Guardian..

También lea: El oso de peluche impulsado por ChatGPT Poe lee cuentos de buenas noches a los niños

Kristina Korobov, abogada senior de Zero Abuse Project, una organización sin fines de lucro con sede en Minnesota dedicada a la seguridad infantil, dice que el grupo ha comenzado a notar informes de imágenes de niños reales creadas con IA, que no fueron sexualmente abusados. “Pero ahora su rostro está en un niño que fue abusado”, dice.

El fiscal del Departamento de Justicia dice que “nos estamos ahogando” debido a la IA

“A veces, reconocemos la ropa de cama o el fondo en un video o imagen, el perpetrador, o la serie de la que proviene, pero ahora hay el rostro de otro niño puesto sobre ello”, dijo Korobov, según el Guardian.

Los modelos de IA son capaces de producir miles de imágenes y videos similares a fotografías de la vida real por día. Según el informe, esto ha facilitado que los depredadores utilicen la tecnología para comunicar contenido desagradable en la dark web y en internet convencional.

Para las autoridades, se ha convertido en una pesadilla. “Desde la perspectiva de las fuerzas del orden, los crímenes contra los niños son una de las áreas más escasas en recursos, y habrá una explosión de contenido de IA”, dijo un fiscal del Departamento de Justicia de EE. UU. (DoJ), añadiendo:

“Ya nos estamos ahogando en este material.”

El Centro Nacional de Niños Desaparecidos y Explotados de EE. UU. (NCMEC) dice que, en 2023, los informes de abuso infantil en línea aumentaron un 12 % hasta alcanzar los 36,2 millones. Aunque la mayoría de los informes estaban relacionados con la circulación de fotos y videos de la vida real de niños sexualmente abusados, el centro también recibió 4.700 informes de imágenes o videos de deepfake de IA que involucraban la explotación sexual de niños.

NCMEC dijo que algunas de las formas más comunes en que los depredadores han estado usando la IA incluyen editar imágenes en línea existentes para hacerlas explícitas. Los criminales también aprovechan los chatbots de inteligencia artificial generativa que dan instrucciones gráficas sobre cómo reclutar niños para el abuso.

Las leyes actuales no son suficientes para los deepfakes de IA

Parece haber una brecha en lo que puede considerarse un delito. En muchas jurisdicciones, poseer imágenes que objetivizan sexualmente a los niños es un delito, pero las leyes aún no se han avanzado para incorporar imágenes generadas por IA.

“Al cargar casos en el sistema federal”, dijo el fiscal del DoJ, “la IA no cambia lo que podemos procesar, pero hay muchos estados donde tienes que poder probar que es un niño real”. El fiscal añadió:

“Discutir la legitimidad de las imágenes causará problemas en los juicios. Si yo fuera un abogado de defensa, eso es exactamente lo que argumentaría.”

Incluso si las leyes se promulgan, la tecnología habilitadora aún será necesaria para atrapar a los criminales, y actualmente hay una gran brecha. Los grupos de seguridad infantil advirtieron que los departamentos de policía probablemente se verán inundados de solicitudes.

También lea: El jefe de la ONU advierte que la IA hace más probable una guerra nuclear

Las imágenes sexualmente explícitas de niños generadas con IA comenzaron a aumentar su huella en línea alrededor de 2022, coincidiendo con el lanzamiento de ChatGPT por parte de OpenAI, según el informe del Guardian.

La NCMEC acusa a las empresas de IA de no hacer lo suficiente para prevenir la generación y difusión de contenido explotador. El año pasado, solo cinco empresas de IA presentaron voluntariamente informes al Centro. En comparación, el 70% de las plataformas de redes sociales compartieron sus informes, según indicó.