O YouTube apresenta novas ferramentas para proteger os criadores contra deepfakes gerados por IA

O YouTube está desenvolvendo ferramentas para detectar o uso de versões geradas por IA das vozes ou imagens físicas dos usuários em vídeos sem o seu consentimento. Em um anúncio feito hoje, a plataforma pertencente ao Google afirmou que essas ferramentas protegerão os criadores de conteúdo em sua plataforma.

O anúncio é um desenvolvimento bem-vindo, pois as ferramentas abordam as principais preocupações em torno da proliferação de deepfakes, que às vezes levam a perdas financeiras e de reputação. Muitos esperam que isso torne o processo dedente denúncia de deepfakes mais simples.

Duas ferramentas têm como foco a proteção de músicos e figuras públicas

A empresa explicou que está trabalhando em duas ferramentas. A primeira é uma ferramenta dedentde vozes cantadas que fará parte do sistema Content ID do YouTube. Esse recurso detectamaticconteúdo gerado por IA que simula vozes cantadas de outras pessoas na plataforma e o removematic.

Para a segunda ferramenta, o YouTube está desenvolvendo uma tecnologia que permite que pessoas populares, como criadores de conteúdo, atletas, músicos e artistas, detectem e removam deepfakes de seus rostos na plataforma. A empresa observou que essas ferramentas, juntamente com suas atualizações de privacidade e termos de serviço, seriam suficientes para proteger os criadores de conteúdo.

No entanto, o objetivo do YouTube não é impedir que as pessoas usem IA em sua plataforma; busca apenas garantir o uso responsável da IA ​​e capacitar os criadores a controlar o uso de sua imagem.

Dizia ​:

“Acreditamos que a IA deve aprimorar a criatividade humana, não substituí-la. Estamos comprometidos em trabalhar com nossos parceiros para garantir que os avanços futuros amplifiquem suas vozes e continuaremos a desenvolver mecanismos de proteção para abordar preocupações e alcançar nossos objetivos comuns.”

Entretanto, o YouTube não divulgou um cronograma para quando esses recursos estarão disponíveis para os usuários, apenas observando que a ferramenta de detecção de voz cantada ainda precisa de alguns ajustes, mas que haverá um programa piloto no início de 2025.

O YouTube apresenta uma tecnologia para impedir a extração de dados por IA

O YouTube também insinuou que está trabalhando em uma ferramenta para impedir que empresas de IA usem conteúdo em sua plataforma para treinar seus modelos sem a permissão dos proprietários. Observando isso como um problema grave, a plataforma afirmou que está investindo em sistemas que detectarão e bloquearão terceiros que tentem extrair dados de sua plataforma e violar seus Termos de Serviço.

No entanto, reconheceu que os criadores podem querer colaborar com empresas de IA. Portanto, está trabalhando em maneiras de permitir que os criadores do YouTube controlem como terceiros usam seu conteúdo na plataforma.

Apesar da postura rígida do YouTube contra empresas de IA que extraem conteúdo de sua plataforma para treinar seus modelos, o YouTube e sua empresa controladora, o Google, utilizam esse conteúdo para o mesmo propósito, porém em conformidade com os termos de serviço. A empresa planeja continuar utilizando o conteúdo para desenvolver ferramentas de IA de forma responsável.