YouTube presenta nuevas herramientas para proteger a los creadores contra deepfakes generados por IA
- YouTube ha desarrollado herramientas de detección de deepfakes que identificarán el uso de IA para replicar voces o imágenes sin permiso.
- Las herramientas están diseñadas esencialmente para que los músicos protejan sus voces y las figuras públicas protejan su imagen.
- La plataforma tiene previsto endurecer la postura ante las empresas de IA que infrinjan las leyes de derechos de autor mediante el raspado de datos de su contenido.
YouTube está desarrollando herramientas para detectar el uso de versiones generadas por IA de las voces o apariencias físicas de los usuarios en videos sin su consentimiento. En un anuncio hoy, la plataforma propiedad de Google dijo que estas herramientas protegerán a los creadores en su plataforma.
El anuncio es un desarrollo bienvenido ya que las herramientas abordan grandes preocupaciones en torno a la proliferación de deepfakes, a veces conduciendo a pérdidas financieras y reputacionales. Muchos esperan que esto haga que el proceso de identificar y reportar deepfakes sea más fluido.
Dos herramientas se centran en proteger a músicos y figuras públicas
La compañía explicó que está trabajando en dos herramientas. La primera es una herramienta de identificación de voz cantada que formará parte del sistema YouTube Content ID. Esta función detecta automáticamente el contenido generado por IA que simula las voces cantadas de otras personas en la plataforma y las elimina automáticamente.
Para la segunda herramienta, YouTube está desarrollando una tecnología que permite a personas populares como creadores, atletas, músicos y artistas detectar y eliminar deepfakes de sus rostros en la plataforma. La compañía señaló que estas herramientas, junto con sus Actualizaciones de Privacidad y Términos de Servicio, serían suficientes para proteger a los creadores.
Sin embargo, el objetivo de YouTube no es detener a las personas de usar IA en su plataforma; solo busca garantizar el uso responsable de la IA y empoderar a los creadores para controlar el uso de su imagen.
Dijo:
“Creemos que la IA debería mejorar la creatividad humana, no reemplazarla. Estamos comprometidos a trabajar con nuestros socios para asegurar que los avances futuros amplifiquen sus voces, y seguiremos desarrollando salvaguardas para abordar las preocupaciones y lograr nuestros objetivos comunes.”
Mientras tanto, YouTube no dio un cronograma para cuándo estas funciones estarían disponibles para los usuarios, solo señaló que la herramienta de detección de voz cantada aún necesita algún ajuste fino, pero habrá un programa piloto a principios de 2025.
YouTube adelanta tecnología para prevenir el raspado de datos por IA
YouTube también insinuó que está trabajando en una herramienta para evitar que las empresas de IA utilicen el contenido de su plataforma para entrenar sus modelos sin el permiso de los propietarios. Observando esto como un problema importante, la plataforma dijo que está invirtiendo en sistemas que detectarán y bloquearán a terceros que raspado datos de su plataforma y violen sus Términos de Servicio.
Sin embargo, reconoció que los creadores podrían querer colaborar con empresas de IA. Por lo tanto, está trabajando en formas de permitir que los creadores de YouTube controlen cómo los terceros utilizan su contenido en la plataforma.
A pesar de la postura firme de YouTube contra las empresas de IA que raspado su contenido para entrenar sus modelos, la plataforma y su empresa matriz, Google, utilizan este contenido para el mismo propósito, pero en cumplimiento con los términos de servicio. Planea seguir utilizando el contenido para desarrollar herramientas de IA de manera responsable.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
