YouTube presenta nuevas herramientas para proteger a los creadores contra los deepfakes generados por IA

YouTube está desarrollando herramientas para detectar el uso de versiones generadas por IA de las voces o imágenes físicas de los usuarios en videos sin su consentimiento. En un anuncio publicado hoy, la plataforma, propiedad de Google, afirmó que estas herramientas protegerán a los creadores en su plataforma.

El anuncio es un avance positivo, ya que las herramientas abordan importantes preocupaciones en torno a la proliferación de deepfakes, que a veces conlleva pérdidas financieras y de reputación. Muchos esperan que facilite el proceso dedenty denuncia de deepfakes.

Dos herramientas se centran en la protección de músicos y figuras públicas

La compañía explicó que está trabajando en dos herramientas. La primera es una herramienta dedentde voces cantadas que formará parte del sistema Content ID de YouTube. Esta función detectamaticel contenido generado por IA que simula las voces cantadas de otras personas en la plataforma y lo eliminamatic.

Para la segunda herramienta, YouTube está desarrollando una tecnología que permite a personas populares, como creadores, deportistas, músicos y artistas, detectar y eliminar deepfakes de sus rostros en la plataforma. La compañía señaló que estas herramientas, junto con sus Actualizaciones de Privacidad y Condiciones de Servicio, serían suficientes para proteger a los creadores.

Sin embargo, el objetivo de YouTube no es impedir que las personas utilicen IA en su plataforma; solo busca garantizar el uso responsable de la IA y empoderar a los creadores para que controlen el uso de su imagen.

Decía ​:

Creemos que la IA debe potenciar la creatividad humana, no reemplazarla. Nos comprometemos a trabajar con nuestros socios para garantizar que los avances futuros amplifiquen sus voces y seguiremos desarrollando mecanismos de protección para abordar las preocupaciones y alcanzar nuestros objetivos comunes

Mientras tanto, YouTube no dio un cronograma sobre cuándo estas funciones estarán disponibles para los usuarios, solo señaló que la herramienta de detección de voz cantada aún necesita algunos ajustes, pero que habrá un programa piloto a principios de 2025.

YouTube presenta tecnología para evitar el rastreo de datos por IA

YouTube también insinuó que está trabajando en una herramienta para evitar que las empresas de IA utilicen el contenido de su plataforma para entrenar sus modelos sin el permiso de sus propietarios. Considerando que esto es un problema importante, la plataforma afirmó que está invirtiendo en sistemas que detectarán e impedirán que terceros extraigan datos de su plataforma e infrinjan sus Términos de Servicio.

Sin embargo, reconoció que los creadores podrían querer colaborar con empresas de inteligencia artificial. Por lo tanto, está trabajando para que los creadores de YouTube puedan controlar cómo terceros utilizan su contenido en la plataforma.

A pesar de la firme postura de YouTube contra las empresas de IA que extraen su contenido para entrenar sus modelos, la plataforma y su empresa matriz, Google, utilizan este contenido con el mismo propósito, pero cumpliendo con las condiciones del servicio. Planean seguir utilizando el contenido para desarrollar herramientas de IA de forma responsable.