Gigantes da Tecnologia se Unem para Enfrentar a Ameaça dos Deepfakes com Credenciais de Conteúdo

Em todo o mundo, os deepfakes receberam muita atenção. À medida que muitas empresas internacionais que usam deepfakes gerados por IA emergiram, há um acordo geral sobre a abordagem geral para este problema. No início deste ano, o Google no C2PA tornou-se um comitê diretor com outros como OpenAI, Adobe, Microsoft, AWS e membros da RIAA. Devido às preocupações com deepfake e desinformação de IA mainstream, o pessoal de TI quererá abraçar o trabalho desta agência, fazendo referências específicas às credenciais de conteúdo.

Credenciais de Conteúdo: O novo padrão

A indústria está prestes a regular uma área específica de gerenciamento de dados visuais e de vídeo em toda a linha, portanto, a equipe de TI será muito criteriosa nisso. Os Credenciais de Conteúdo são uma maneira de os metadados digitais que criadores ou detentores de conteúdo podem utilizar para obter os créditos adequados e introduzir honestidade em um ecossistema. Esses metadados irreversíveis consistem no nome e nos detalhes do artista e são inscritos diretamente no conteúdo quando exportados ou baixados.

Os rótulos de conteúdo criados sob as mesmas regras e permissões têm grandes chances de implementar a rotulagem padronizada em um mundo completo e acolhedor, devido ao peso das empresas por trás da ideia. Os Credenciais de Conteúdo representam uma oportunidade única por várias razões. Eles ajudarão a fortalecer a credibilidade e a confiabilidade entre o público, pois fornecem informações necessárias sobre o autor ou o processo criativo. Isso desenvolve um ambiente que ajuda a combater a desinformação e a informação falsa. 

Anexe quaisquer detalhes de contato com seu trabalho para fortalecer a identidade dos artistas para que os usuários possam rastreá-los e conectá-los para reconhecimento e visibilidade. Além disso, haverá algumas medidas destinadas ao conteúdo da internet que não é real, como o conteúdo que é falso e feito para enganar as pessoas. A história da Austrália reflete o maior pico de fraude de deepfake, semelhante ao do resto do mundo. Sumsub, em seu terceiro Relatório de Fraude de Identidade, disse que o número de deepfakes na Austrália aumentou 15 vezes em comparação com o ano anterior e a sofisticação da mídia forjada em direção à forma realista-avançando ainda mais.

Como o olho humano desliga sua guarda quase instantaneamente, os deepfakes se tornam altamente persuasivos. Pesquisas indicam que pode levar tão pouco quanto 13 milissegundos para categorizar imagens, muito menos do que a duração necessária para que um humano processe as informações e as autentique ou rejeite. O Comissário Australiano de eSafety observa que o "desenvolvimento de inovações para ajudar a identificar deepfakes ainda não está acompanhando o ritmo da tecnologia". Por sua vez, o governo australiano comprometeu-se a combater os deepfakes.

Combate aos deepfakes na Austrália

Os deepfakes representam uma ameaça muito real à estabilidade e à segurança de todos os australianos. Qualquer campanha de prevenção de deepfakes de longo prazo deve se concentrar em campanhas de conscientização que ajudem as pessoas a entender como os deepfakes funcionam e as opções disponíveis para evitar cair nessas armadilhas.

Para que essa visão se torne realidade, será necessário um consenso em toda a indústria, com os principais stakeholders do lado da oferta fornecendo a tecnologia e tendo o maior impacto na IA. Mas é aí que os Credenciais de Conteúdo entram em cena. Embora os Credenciais de Conteúdo sejam a melhor chance de criar padrões que resolvam o problema dos deepfakes, as questões de detecção, regulação e punição do uso indevido permanecerão. Isso significa que a prevenção não é baseada na indústria nem apoiada por uma grande quantidade de líderes de campo nas indústrias de mídia. Tais implementações podem abranger uma grande parte da internet, e nesses tempos, a maioria dos sites se torna instantaneamente tão conhecida quanto os sites virais nos mecanismos de busca.

As pessoas envolvidas em TI e IA operando para a criação de conteúdo desejam. Elas devem entender os Credenciais de Conteúdo da mesma forma que os desenvolvedores web chegaram ao nível de envolvimento com segurança, SEO e todos os padrões existentes para proteger o conteúdo de ser banido. As etapas que devem ser tomadas incluem:

Implementando Credenciais de Conteúdo: Primeiro, os especialistas em TI devem garantir que sua empresa implemente e integre totalmente os credenciais de conteúdo nos fluxos de trabalho para manter a autenticidade e a rastreabilidade do conteúdo.

Defendendo a transparência: A sugestão interna e externamente com parceiros e clientes leva a um advocacy organizado para que as organizações sejam transparentes sobre o uso de IA e aceitem práticas éticas na criação e distribuição de conteúdo.

Apoiando a regulação: Considere órgãos da indústria e o governo para orientar a formulação de políticas e regulamentações para combater os desafios induzidos pelos deepfakes. Isso não envolverá apenas participar das muitas consultas públicas que o governo realizará sobre IA, mas também ajudar a moldar o trabalho de política.

Colaborando: Combine maior expertise com outros profissionais e organizações, criando abordagens e ferramentas compartilhadas e consistentes para identificar riscos de deepfakes.

Preparando estratégias de resposta: Enfrente os desafios impostos pelos deepfakes e prepare seus planos quando essa tecnologia for detectada, como lidar com danos e comunicações.

Aproveitando recursos da comunidade: A plataforma também deve usar recursos de comunidades de cibersegurança, como o Comissário eSafety, para acompanhar desenvolvimentos recentes e oportunos.

A formação de deepfakes é a tarefa mais desafiadora para os especialistas em tecnologia da informação, que devem encontrar uma solução aplicável. Os Credenciais de Conteúdo fornecem uma excelente organização inicial para o mundo sobre a qual o resto da indústria pode ser construída.