OpenAI faz parceria com Bryan Cranston e SAG-AFTRA para conter deepfakes do Sora

A OpenAI disse na segunda-feira que está se unindo a Bryan Cranston, SAG-AFTRA e grandes grupos de talentos de Hollywood para lidar com a crescente confusão de deepfakes feitos em sua ferramenta de vídeo por IA, o Sora.

Isso ocorre após a aparição de clipes falsos do rosto e da voz de Cranston online logo após o lançamento do Sora 2 no final de setembro. Cranston não sabia que eles existiam até que foram compartilhados com ele, e ele não ficou feliz.

Falando através da SAG-AFTRA, que postou sobre isso no X, Cranston disse: “Sou grato à OpenAI por sua política e por melhorar suas barreiras de segurança, e espero que eles e todas as empresas envolvidas neste trabalho respeitem nosso direito pessoal e profissional de gerenciar a replicação de nossa voz e imagem.”

Essa linha caiu exatamente quando OpenAI anunciou que se uniria à SAG-AFTRA, à agência de talentos de Cranston, United Talent Agency (UTA), e a outros grupos de topo, como a Creative Artists Agency (CAA) e a Association of Talent Agents, para acabar com o uso não autorizado das identidades dos atores.

OpenAI enfrenta críticas de agências sobre o uso indevido do Sora 2

A OpenAI tem sido alvo de críticas de agências de talentos há algum tempo. Tanto a CAA quanto a UTA criticaram a empresa no início deste ano por usar trabalho protegido por direitos autorais para treinar seus modelos, chamando o Sora de uma ameaça direta à propriedade intelectual de seus clientes.

Esses avisos se tornaram reais quando os usuários começaram a carregar vídeos desrespeitosos de Martin Luther King Jr. no Sora. Os vídeos eram tão ruins que a fundação de King teve que intervir na semana passada e pedir que fossem bloqueados, e a OpenAI cumpriu.

O calor não parou por aí. Zelda Williams, filha do falecido comediante Robin Williams, também disse às pessoas para pararem de enviar vídeos dela feitos por IA de seu pai depois que o Sora 2 foi lançado. Ela tornou sua frustração pública não muito tempo após o lançamento, adicionando mais combustível ao fogo que já estava se formando em torno da falta de controle da OpenAI nas proteções de identidade.

Com as reclamações se acumulando, a empresa decidiu apertar suas políticas. O Sora já exigia consentimento opt-in para o uso de voz e imagem, mas a OpenAI disse que agora também promete responder rapidamente a qualquer reclamação que receber sobre impersonificação ou uso indevido.

Sam Altman atualiza a política e apoia o Projeto de Lei NO FAKES

Em 3 de outubro, o CEO da OpenAI, Sam Altman, tornou oficial: a antiga política que permitia à empresa usar material a menos que alguém lhes dissesse o contrário? Abandonada. A empresa agora dá aos detentores de direitos “controle mais granular sobre a geração de personagens”, o que significa que as agências finalmente podem gerenciar como e quando as identidades de seus clientes são usadas no Sora.

Sam também reforçou seu apoio ao Projeto de Lei NO FAKES, uma lei dos EUA destinada a impedir réplicas de IA não autorizadas. “A OpenAI está profundamente comprometida em proteger os artistas da apropriação indevida de sua voz e imagem”, disse ele. “Fomos um apoiador precoce do Projeto de Lei NO FAKES quando foi introduzido no ano passado, e sempre apoiaremos os direitos dos artistas.”

A OpenAI passou de um órgão de pesquisa para um império de IA que persegue tudo: aplicativos de chat, plataformas sociais e ferramentas empresariais. Mas, com bilhões travados em chips de IA e sua enorme construção de data centers ainda faminta por dinheiro, ela está olhando com atenção para contratos governamentais e corporativos para pagar as contas. Isso significa evitar processos judiciais e manter atores, agentes e legisladores longe de suas costas é agora tão importante quanto treinar o próximo modelo de IA.