Meta Anuncia Política Ampliada para Rótulos de Imagens Geradas por IA

A Meta, anteriormente conhecida como Facebook, divulgou uma política ampliada para abordar os desafios associados à proliferação de conteúdo gerado por IA em suas plataformas, incluindo Facebook, Instagram e Threads.

Em resposta ao crescente uso de inteligência artificial generativa, a empresa agora implementará rótulos de aviso em imagens geradas por IA para informar os usuários de suas origens artificiais. Embora essa medida seja vista como um passo positivo, ainda há preocupações sobre sua eficácia no combate a atores mal-intencionados e as limitações da tecnologia.

Rótulos de aviso em imagens geradas por IA

A mais recente mudança de política da Meta envolve marcar imagens geradas por IA, sejam criadas usando suas próprias ferramentas de IA generativa ou aquelas fornecidas por outras empresas, com rótulos indicando sua natureza artificial. Essa medida é projetada para reduzir o risco de desinformação e informação falsa sendo espalhada por imagens geradas por IA passadas como fotos reais.

 A Meta tem rotulado as imagens produzidas por sua IA como “Imagined with AI” (Imaginado com IA), principalmente identificando a marca d'água digital embutida por seus algoritmos na saída.

Desafios e limitações

Apesar do compromisso da Meta em implementar esses rótulos de aviso, desafios significativos permanecem. Um desafio notável é que muitas ferramentas de geração de imagens por IA não marcam sua saída, facilitando que atores mal-intencionados manipulem e disseminem conteúdo gerado por IA sem divulgação. 

Além disso, a tecnologia para detectar e rotular confiavelmente imagens geradas por IA ainda está em desenvolvimento, e não existe um padrão universalmente implantado.

A Coalition for Content Provenance and Authenticity (C2PA), uma iniciativa fundada pela Adobe, tentou alinhar o trabalho das empresas na proveniência do conteúdo. No entanto, a tecnologia desenvolvida até agora não é infalível. 

Pesquisadores demonstraram a facilidade com que as marcas d'água podem ser quebradas ou adicionadas a imagens não geradas por IA, minando sua eficácia.

Hany Farid, professor da UC Berkeley School of Information que aconselha a iniciativa C2PA, alerta que atores mal-intencionados podem usar ferramentas de IA que não marcam sua saída para enganar ainda mais os usuários. 

Ele sugere que uma combinação de métodos de identificação, como marca d'água e tecnologia baseada em hash, pode ser necessária para identificar de forma robusta o conteúdo gerado por IA. A marca d'água é menos desenvolvida para mídia gerada por IA além de imagens, como áudio e vídeo.

Políticas e supervisão expandidas

Embora as novas políticas da Meta representem um passo à frente no combate a conteúdo falso, elas não se limitam ao material gerado por IA. O Conselho de Supervisão da Meta, composto por especialistas independentes, recentemente manteve a decisão da Meta de deixar no ar um vídeo do presidente Joe Biden que havia sido editado para criar uma impressão enganosa. 

Essa decisão destaca a necessidade de a Meta revisar e expandir suas regras para “mídia manipulada” para abranger mais do que apenas conteúdo gerado por IA.

O porta-voz da Meta, Kevin McAlister, reconhece a necessidade de uma abordagem mais ampla, afirmando: “Embora as empresas estejam começando a incluir sinais em seus geradores de imagens, elas ainda não começaram a incluí-los em ferramentas de IA que geram áudio e vídeo na mesma escala.” 

Como tal, a Meta está trabalhando para adicionar um recurso para que os usuários divulguem quando compartilharem vídeo ou áudio gerado por IA, para que rótulos apropriados possam ser aplicados.