La Administración del Ciberespacio de China está considerando etiquetar todo el contenido creado con inteligencia artificial como parte de un nuevo proyecto de norma. Según informes, el regulador, que es la autoridad china de internet, ya ha preparado un plan que solicita a todas las plataformas digitales y proveedores de servicios en línea que añadan la marca de IA al contenido generado con IA.
En un anuncio del 14 de septiembre, el regulador dijo que esta medida estandarizaría el proceso de identificación de contenido dent por IA y protegería la seguridad nacional y los intereses de las personas y organizaciones que utilizan las plataformas.
El regulador publicó un proyecto de ley abierto a comentarios públicos hasta el 14 de octubre. Según el anuncio, el público puede enviar comentarios por correo electrónico a [email protected] o por carta a la Oficina de Tecnología de Gestión de Redes de la Oficina Estatal de Información de Internet.
Si bien los comentarios públicos podrían tener un impacto en el borrador final de las reglas, los expertos creen que las reglas propuestas probablemente se aprobarían en su forma actual con cambios mínimos, ya que las autoridades chinas no son conocidas por hacer cambios drásticos en los borradores de reglas basados en comentarios.
Las reglas preliminares requieren agregar logotipos y mensajes de voz al contenido de IA
El borrador de la norma propone que cualquier archivo de texto, vídeo o imagen creado por IA incluya un logotipo que indique que fue generado por IA, notificando así a cualquiera que se encuentre con dicho contenido. Para garantizar que los usuarios noten la etiqueta, la norma exige que se muestre al principio, al final y en otros momentos relevantes del vídeo.
Para los archivos de audio, los creadores deben añadir indicaciones de voz que informen a los usuarios cuando estén a punto de escuchar contenido generado por IA. Estas indicaciones les notificarán sobre diversas partes del audio. Todo software que reproduzca contenido de audio también deberá incluir indicaciones que indiquen a los usuarios cuándo empiezan a escuchar contenido generado por IA.
El artículo 4 del proyecto de reglamento dice:
“Si el servicio de síntesis de generación proporcionado por el proveedor de servicios se enmarca en el primer párrafo del artículo 17 del Reglamento sobre la gestión de la síntesis profunda de los servicios de información de Internet, se añadirá un logotipo explícito al contenido de síntesis generado de conformidad con los siguientes requisitos”
Mientras tanto, el proyecto de norma también exige que los metadatos incrustados en un archivo reflejen que fue generado por IA, lo que permite etiquetar dicho contenido. Sin embargo, si no existen metadatos, corresponderá a los proveedores de servicios analizar el contenido y etiquetarlo como tal si se sospecha que fue generado por IA.
Las normas también se aplican a los usuarios de internet chinos. Quienes publiquen contenido generado por IA deberán etiquetarlo. Cuando utilicen herramientas de IA en otras plataformas, la ley propuesta les exigirá que proporcionen su información personal, y la plataforma de generación de IA guardará un registro de sus actividades durante seis meses.
Mientras tanto, el borrador del plan también incluye requisitos de que la plataforma de redes sociales debe compartir su tecnología para detectar contenido de IA con otros, una medida diseñada para estandarizar el proceso y mejorar la capacidad de detectar contenido de IA.
Las nuevas normas no sorprenden, dado que la moderación de contenido siempre ha sido crucial para el uso de internet en China. Sin embargo, el enfoque en el contenido de IA parece ser más relevante ante los deepfakes y otros contenidos generados por IA que muchos utilizan para cometer fraudes y otras ilegalidades.
Varias plataformas de redes sociales populares fuera de China, como Facebook, Instagram y TikTok, ya etiquetan el contenido de IA como parte de su moderación. Sin embargo, sus herramientas de detección no han sido perfectas, ya que muchos contenidos hiperrealistas aún escapan a las etiquetas de IA en estas plataformas
