Meta anuncia política ampliada para etiquetar imágenes generadas por IA

Meta, anteriormente conocida como Facebook, ha presentado una política ampliada para abordar los desafíos asociados con la proliferación de contenido generado por IA en sus plataformas, incluyendo Facebook, Instagram y Threads.

En respuesta al creciente uso de la inteligencia artificial generativa, la empresa implementará ahora etiquetas de advertencia en las imágenes generadas por IA para informar a los usuarios sobre su origen artificial. Si bien este movimiento se considera un paso positivo, persisten las preocupaciones sobre su eficacia para combatir a los actores malintencionados y las limitaciones de la tecnología.

Etiquetas de advertencia en imágenes generadas por IA

El último cambio de política de Meta implica etiquetar las imágenes generadas por IA, ya sea creadas con sus propias herramientas de IA generativa o con las proporcionadas por otras empresas, con etiquetas que indican su naturaleza artificial. Este movimiento está diseñado para reducir el riesgo de que se difundan desinformación y noticias falsas a través de imágenes generadas por IA que se hacen pasar por fotos reales.

 Meta ha estado etiquetando las imágenes producidas por su IA como "Imaginadas con IA", principalmente identificando la marca de agua digital incrustada por sus algoritmos en la salida.

Desafíos y limitaciones

A pesar del compromiso de Meta de implementar estas etiquetas de advertencia, siguen existiendo desafíos significativos. Un desafío notable es que muchas herramientas de generación de imágenes por IA no marcan con marca de agua su salida, lo que facilita que los actores malintencionados manipulen y difundan contenido generado por IA sin revelarlo. 

Además, la tecnología para detectar de manera confiable las imágenes generadas por IA y etiquetarlas aún está en desarrollo, y no existe un estándar universalmente implementado.

La Coalición para la Proveniencia y Autenticidad del Contenido (C2PA), una iniciativa fundada por Adobe, ha intentado alinear el trabajo de las empresas en la proveniencia del contenido. Sin embargo, la tecnología desarrollada hasta ahora no es infalible. 

Los investigadores han demostrado la facilidad con la que se pueden romper las marcas de agua o agregarlas a imágenes no generadas por IA, lo que socava su eficacia.

Hany Farid, profesor de la Facultad de Información de la Universidad de California en Berkeley que asesora a la iniciativa C2PA, advierte que los actores malintencionados pueden utilizar herramientas de IA que no marcan con marca de agua su salida para engañar aún más a los usuarios. 

Sugiere que puede ser necesaria una combinación de métodos de identificación, como el marca de agua y la tecnología basada en hash, para identificar de manera robusta el contenido generado por IA. El marca de agua está menos desarrollado para medios generados por IA más allá de las imágenes, como el audio y el video.

Expansión de políticas y supervisión

Si bien las nuevas políticas de Meta representan un avance en la lucha contra el contenido falso, no se limitan al material generado por IA. La Junta de Supervisión de la empresa, compuesta por expertos independientes, recientemente respaldó la decisión de Meta de mantener en línea un video del presidente Joe Biden que había sido editado para crear una impresión engañosa. 

Esta decisión destaca la necesidad de que Meta revise y amplíe sus reglas para los "medios manipulados" para abarcar más que solo el contenido generado por IA.

El portavoz de Meta, Kevin McAlister, reconoce la necesidad de un enfoque más amplio, afirmando: "Si bien las empresas están comenzando a incluir señales en sus generadores de imágenes, aún no han comenzado a incluirlas en herramientas de IA que generan audio y video a la misma escala." 

Como tal, Meta está trabajando en agregar una función para que los usuarios revelen cuando comparten video o audio generado por IA para que se puedan aplicar las etiquetas correspondientes.