El organismo de control electoral del Reino Unido advierte de la impotencia ante los deepfakes generados por IA

El organismo de control electoral del Reino Unido ha hecho sonar una alarma, expresando su incapacidad para combatir el contenido "deepfake", dejando así a Gran Bretaña susceptible a la influencia disruptiva de vídeos falsos de políticos generados por IA en las próximas elecciones.

El organismo de control electoral del Reino Unido ha emitido una dura advertencia, revelando su falta de autoridad para abordar la creciente amenaza del contenido "deepfake". Esta inquietante revelación expone la vulnerabilidad del país ante la posible manipulación de sus procesos electorales mediante el uso de vídeos falsos generados por IA.

Expertos en inteligencia artificial han advertido que las próximas elecciones en el Reino Unido podrían verse influenciadas por audios y vídeos de figuras políticas, generados por IA y que resultan convincentes. Esta tecnología supone un riesgo significativo para la integridad de los procesos democráticos.

dentrecientes de deepfakes

En los últimos meses, se han registrado casos notables de contenido deepfake convincente generado por IA dirigido a figuras políticas, especialmente dentro del Partido Laborista. A principios de octubre, una cuenta de Twitter/X publicó lo que parecía ser un audio del líder laborista Sir Keir Starmer haciendo comentarios despectivos sobre el personal de su partido. A esto le siguió un audio deepfake del alcalde laborista de Londres, Sadiq Khan, aparentemente mostrando falta de respeto por las conmemoraciones del Recuerdo.

El estatus legal de los videos y audios deepfake que involucran a figuras políticas sigue siendo incierto. Si bien podrían estar sujetos a las nuevas medidas de comunicación maliciosa de la Ley de Seguridad en Línea, las autoridades han enfrentado dificultades para abordar este tipo de contenido. Cabe destacar que la Policía Metropolitana abandonó la investigación sobre el deepfake de Sadiq Khan, alegando que no constituía un delito penal

Preocupaciones por la desinformación viral generada por IA

Los expertos expresan su preocupación por la posibilidad de que los vídeos falsos de políticos generados por IA se viralicen en vísperas de las próximas elecciones. La facilidad y el bajo coste de producir vídeos falsos convincentes de figuras públicas diciendo o haciendo cosas escandalosas han hecho que dicha interferencia sea cada vez más accesible. Muchos expertos en la materia anticipan que actores estatales hostiles podrían explotar las tecnologías emergentes para influir en las elecciones del Reino Unido y perturbar el proceso democrático.

A partir de noviembre de 2023, los materiales de campaña deben incluir un sello que indique el editor de cierto contenido político en línea. Sin embargo, no existe la obligación de revelar si el contenido es generado por IA, y la Comisión Electoral carece de autoridad para sancionar o eliminar la desinformación. Si bien Ofcom posee mayores poderes regulatorios en este ámbito, el marco legal relativo a la desinformación política generada por IA y los deepfakes sigue siendo ambiguo.

Autoridad limitada de la Comisión Electoral

La Comisión Electoral aclaró su función en la lucha contra las deepfakes y el contenido de campaña, afirmando que es la principal responsable de regular la financiación de partidos y activistas, así como de garantizar el cumplimiento de los requisitos de impresión digital. Si bien la Comisión reconoce los desafíos que plantea el contenido generado por IA, no tiene competencia para combatir directamente los problemas relacionados con las deepfakes.

La Comisión colabora activamente con sus socios y otros organismos reguladores para comprender mejor las oportunidades y los desafíos que presenta la tecnología de IA en las elecciones. También anima a los votantes a evaluar críticamente la información en línea y ofrece orientación paradentnoticias falsas, a la vez que remite las inquietudes a los reguladores pertinentes.

Pide que se refuercen los poderes reguladores

Reconociendo las limitaciones de la normativa vigente, la Comisión Electoral aboga por que el gobierno del Reino Unido refuerce la autoridad de los reguladores británicos, incluida la propia Comisión. En concreto, la Comisión busca mayores facultades para obtener información de plataformas de redes sociales, empresas tecnológicas y proveedores de pagos en línea. Esta iniciativa buscadentlas fuentes de financiación de las campañas de desinformación política, abordando un aspecto crítico del problema.

Las respuestas de los gigantes tecnológicos

Byline Times contactó a varios gigantes tecnológicos para preguntarles sobre sus políticas y medidas para combatir los deepfakes políticos dañinos. TikTok, por ejemplo, declaró que prohíbe toda publicidad política y exige la divulgación clara de contenido sintético o manipulado que presente escenas realistas. TikTok también mantiene políticas estrictas contra la desinformación.

Google/Alphabet destacó sus continuos esfuerzos para combatir la desinformación y su experimentación con tecnología de marcas de agua para identificar contenido generado por IA. Google anunció SynthID, una herramienta para incrustar marcas de agua digitales imperceptibles en imágenes generadas por IA para verificar su autenticidad.

Google también destacó su progreso en la detección de discurso sintético con una precisión cercana al 99 % y reveló planes para actualizar su política de contenido político. Esta actualización exigirá a los anunciantes electorales verificados que divulguen de forma destacada el contenido sintético en sus anuncios, incluyendo imágenes, vídeos y audio.

YouTube, propiedad de Google, tiene políticas estrictas contra el "contenido técnicamente manipulado" que confunde a los espectadores y supone un riesgo de daños graves. YouTube también exigirá a los creadores que revelen cuándo crean contenido alterado o sintético que parezca realista.

Desafíos y riesgos de la desinformación generada por IA

El principal riesgo asociado con el contenido deepfake generado por IA es la creación de vídeos convincentes que muestran eventos que nunca ocurrieron o personas que dicen o hacen cosas que nunca hicieron. Este riesgo se vuelve especialmente delicado en el contexto de las campañas electorales, donde la opinión pública puede verse influenciada por este tipo de contenido engañoso.

Respuestas de Meta/Facebook y Twitter

Meta/Facebook no respondió a las consultas sobre sus políticas y medidas para abordar los deepfakes políticos. Twitter/X respondió con una respuesta automática, sin ofrecer más detalles sobre su postura o acciones al respecto.

Ante la amenaza de los deepfakes generados por IA que se cierne sobre los procesos democráticos del Reino Unido, el país se enfrenta a un desafío crucial: regular y combatir eficazmente la difusión de este contenido engañoso. La participación de los gigantes tecnológicos en la implementación de medidas para contrarrestar los deepfakes subraya la urgencia de abordar este problema para proteger la integridad de las elecciones y el discurso democrático.