Gran Bretaña se alía con Microsoft para la detección de deepfakes ante el auge de la IA

Gran Bretaña ha anunciado planes de trabajar con Microsoft, académicos y expertos técnicos para construir un sistema de detección de deepfakes, a medida que crece la preocupación por la escala del engaño generado por IA en línea.

La iniciativa coloca a los deepfakes, la IA, Gran Bretaña, Microsoft y los sistemas de detección en el centro de un nuevo impulso para frenar el contenido dañino que se vuelve cada vez más realista y más difícil de detectar.

Gran Bretaña apunta al fraude y a las imágenes no consentidas

Según el gobierno, la asociación desarrollará un marco de evaluación de detección de deepfakes, que creará un conjunto de estándares compartidos para evaluar los dispositivos de detección de circuitos para archivos de audio, video e imagen alterados.

Así como proporcionar una referencia para estos tipos de dispositivos de detección contra ejemplos del mundo real de uso (fraude e impersonación) así como imágenes o videos de explotación sexual de niños.

La Ministra de Tecnología, Liz Kendall, advirtió que este riesgo no existe solo teóricamente.

«Los deepfakes están siendo utilizados por criminales para engañar al público, aprovecharse de mujeres y niñas, y disminuir la credibilidad de lo que vemos y oímos. Y continuarán hasta que tomemos medidas para proteger a los ciudadanos y las instituciones democráticas de la manipulación.»

Kendall

La alteración de medios ha existido durante muchas décadas. Sin embargo, los expertos dicen que con el desarrollo de la IA, la cantidad de dinero y habilidad requerida para producir un falso de alta calidad es más accesible que nunca antes.

En el Reino Unido, hay un mayor enfoque en el acto criminal de producir imágenes íntimas sin consentimiento como resultado directo del rápido aumento en el número de imágenes falsas producidas por IA.

Según los datos del gobierno, hubo ocho millones de imágenes falsas producidas como deepfakes en 2025 en comparación con solo 500.000 en 2023. Esto muestra lo rápidamente que la gente está creando este tipo de imágenes.

El marco ha sido creado para permitir que las fuerzas del orden detecten, prevengan y enjuicien este delito y para proporcionar a la industria un conjunto claro de expectativas con respecto a las regulaciones de seguridad.

Este es un movimiento que se ha instado a los gobiernos a realizar y Microsoft pidió al Congreso en 2024 que aprobara nueva legislación dirigida a los deepfakes generados por IA. Brad Smith, Vicepresidente y Presidente de Microsoft, había enfatizado la urgencia de que los legisladores aborden la creciente amenaza de la tecnología deepfake.

En su entrada de blog, Smith destacó la importancia de adaptar las leyes para abordar el fraude de deepfakes y prevenir la explotación. Según Smith, debería haber una estatuto que se pueda usar para acusar estafas y fraudes de deepfakes.

Según el informe de Microsoft, se pueden tomar varias intervenciones legales para prevenir el mal uso de la tecnología deepfake. Una de las sugerencias es crear un «estatuto federal de fraude de deepfakes».

Presionando a las plataformas a través de la regulación

Alrededor del mundo, los reguladores tienen dificultades para mantenerse al día con los rápidos avances de la tecnología IA.

En el Reino Unido, tanto la oficina que regula las comunicaciones (el «Regulador de Comunicaciones») como la oficina que regula la privacidad (el «Regulador de Privacidad») han comenzado a investigar el chatbot Grok, operado por Elon Musk, debido a que el chatbot producía imágenes sexualizadas de niños que fueron creadas sin su consentimiento.

Como parte de esta investigación, los dos organismos reguladores trabajarán juntos para desarrollar un nuevo marco para ayudar a las fuerzas del orden y a los organismos reguladores a establecer estándares consistentes sobre cómo evaluar las herramientas de detección utilizadas por las fuerzas del orden y los organismos reguladores.

Según Kendall, el propósito de este nuevo marco es «promover la restauración de la confianza en lo que la gente ve y oye en línea», y requerir que todos los proveedores de tecnología asuman la responsabilidad de mitigar el daño potencial relacionado con el uso acelerado de las tecnologías de IA.