La Junta de Supervisión de Meta pide una política de contenido más estricta en la retirada de un video deepfake de un político del Reino Unido

La Junta de Supervisión de Meta ha dictaminado que la empresa debe retirar un video generado por IA de un concejal laborista escocés que mostraba falsamente su apoyo a la violencia sexual por parte de refugiados. 

La empresa inicialmente decidió dejarlo publicado, y más allá de anular esa decisión, la junta de supervisión también ha advertido que el manejo de deepfakes por parte de Meta pone a los usuarios en riesgo de engaño.

¿Qué video fabricado debe retirar Meta? 

En noviembre de 2025, apareció en Facebook un clip que utilizaba la imagen de una política local del Partido Laborista en Escocia. El video mostraba a la imagen diciendo: “Los refugiados son bienvenidos aquí, incluso si violan a nuestras mujeres, porque la gente blanca también lo hace”.

La Junta de Supervisión de Meta describió la representación como realista pero sintética, señalando que el audio no coincidía con los movimientos faciales. El video se encontró en un álbum que también contenía una fotografía de varias mujeres nombradas, incluida la concejala, en una protesta contra la extrema derecha.

Dos personas, una de ellas la propia concejala, marcaron el video bajo las reglas de acoso y hostigamiento de Meta, pero los sistemas de Meta nunca lo derivaron a un revisor humano, y se mantuvo en línea a través de dos apelaciones. 

Un tercer usuario llevó el caso a la Junta, e incluso después de que lo marcaron, Meta mantuvo que el video no violaba ninguna regla y no justificaba una etiqueta de IA. La concejala le dijo a la Junta que el video fue “bastante traumático”. 

La mayoría de la Junta encontró que el clip violaba la política de Conducta Odiosa de Meta porque acusaba a los refugiados como grupo entero de criminalidad grave y comportamiento sexual depredador, rechazando la afirmación de Meta de que solo apuntaba a algunos refugiados. La Junta no lo trató como desinformación eliminable, pero dijo que debería haber llevado una etiqueta de “IA de Alto Riesgo”.

La Junta estuvo de acuerdo en un punto a favor de Meta, que es que las reglas de acoso y hostigamiento no requerían la eliminación porque un funcionario electo es una figura pública con derecho a menos protección que una persona privada.

¿Qué recomendaciones tiene la Junta de Supervisión para Meta?

La junta también intervino en un segundo caso, que involucraba una entrevista manipulada por IA de una mujer que promovía la educación sobre la salud menstrual. Tras la intervención de la junta, Meta retiró el video por acoso. 

Los dos dictámenes llevaron a la Junta a calificar las salvaguardas de Meta como “consistentemente e fundamentalmente inadecuadas”.

La Junta recomendó sugirió que Meta reduzca el umbral para las etiquetas de “alto riesgo” para que no se reserven solo para elecciones o crisis y reemplace algunas etiquetas con un intersticial de clic. También sugirió que el contenido de IA de alto riesgo debería ser desmonetizado, degradado o eliminado de las recomendaciones, con penalizaciones escalonadas para los reenviadores reincidentes. 

También quiere que Meta priorice el contenido sospechoso de IA para revisión humana cuando se reporte, publique datos anuales sobre la frecuencia con la que aplica etiquetas de IA, incluidas las publicaciones sobre políticos, y formule sus reglas de votación y censo para que se apliquen globalmente en lugar de solo en Estados Unidos. Meta tiene 60 días para responder a la junta. 

Los gobiernos y las plataformas de todo el mundo están endureciendo sus reglas sobre medios sintéticos. Por ejemplo, el Tribunal Popular Supremo de China estableció reglas de responsabilidad el 7 de septiembre, que establecen que crear o compartir una réplica de IA del rostro o la voz de alguien sin permiso es una infracción. informó Cryptopolitan que Beijing eliminó por separado más de 14.000 productos de IA en la primera fase de su limpieza “Qinglang” a principios de este año. 

El Código de Prácticas de la Unión Europea sobre la Transparencia del Contenido Generado por IA instala a los proveedores a marcar la salida de IA y a los implementadores a etiquetar los deepfakes. 

La política de Contenido Generado por IA de Google Play prohíbe a los usuarios publicar material sexual deepfake no consensuado y contenido electoral que sea “demostrablemente engañoso o falso”.

Solo se permite a unos pocos usuarios usar IA para escribir sin revelar en Medium, y la plataforma prohíbe outright la desinformación generada por IA outright.