Google disponibiliza como código aberto ferramenta de marca d'água para usuários identificarem texto gerado por IA

- “O detector de texto gerado por IA do Google, o SynthID, não comprometerá a qualidade e a precisão dos textos.”
- Isso é visto como o passo certo para combater deepfakes.
- Outras empresas de tecnologia, como a OpenAI, trabalharam em uma ferramenta de marca d'água para texto, mas adiaram seu lançamento.
A Google disponibilizou como código aberto a ferramenta de marca d'água de texto SynthID, uma tecnologia que permite aos usuários detectar se o texto é original ou gerado por IA facilmente.
De acordo com a Google, o detector de texto gerado por IA pode ser baixado da plataforma de IA Hugging Face e do Kit de Ferramentas Responsável de GenAI atualizado da Google. As marcas d'água tornaram-se significativas com o boom da IA generativa nos últimos dois anos, já que os LLMs estão sendo manipulados para espalhar desinformação e informação falsa, bem como conteúdo sexual não consensual e para fins maliciosos.
O desenvolvimento ocorre com urgência para desenvolver tais ferramentas, com a Agência de Aplicação da Lei da União Europeia preocupada de que 90% do texto online possa ser sintético até 2026, tornando a propaganda, a fraude e o engano abundantes.
Pesquisadores da Google explicam sua ferramenta de marca d'água
Em um post na plataforma X, o gigante dos mecanismos de busca revelou que está disponibilizando como código aberto sua ferramenta de marca d'água SynthID Text, dizendo que estará “disponível gratuitamente para empresas e desenvolvedores, pois ajudará eles a identificar seu conteúdo gerado por IA.”
Pushmeet Kohli, vice-presidente de pesquisa no Google DeepMind e co-autor de um artigo de pesquisa do Google DeepMind, disse: “O sistema não compromete as funções dos modelos de IA, mas apenas os torna melhores.”
Imagens e vídeos têm sido centrais nas discussões sobre credenciais de conteúdo, e as marcas d'água foram apontadas como a solução necessária para combater deepfakes.
A Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA), uma colaboração entre empresas de tecnologia e grandes veículos de mídia para elaborar um sistema para anexar metadados criptografados que indiquem arquivos de imagem e vídeo gerados por IA, também tem sido central nessas discussões.
De acordo com o artigo de pesquisa do Google DeepMind, o SynthID Text interfere durante a geração, alterando algumas palavras produzidas por um chatbot para serem claras para um detector SynthID, mas quase invisíveis para humanos.
“Modificações como essas introduzem uma assinatura estatística no texto gerado por IA e, durante a fase de detecção da marca d'água, a assinatura pode ser medida para ver se o texto veio de um modelo de IA pelo LLM com marca d'água”, escreveram os pesquisadores no artigo.
Ao gerar frases palavra por palavra, é assim que os LLMs que alimentam os chatbots funcionam, pois escolhem a próxima palavra provável dependendo do contexto do que veio antes. Alocando pontuações numéricas aleatoriamente para palavras candidatas, o LLM produz palavras com pontuação mais alta. As marcas d'água serão colocadas em um trecho de texto que teria sido analisado pelo detector, e tendo sido encontrado com pontuação mais alta.
Hoje, estamos disponibilizando como código aberto nossa ferramenta de marca d'água de texto SynthID por meio de um Kit de Ferramentas de IA Generativa Responsável atualizado.
Disponível gratuitamente para desenvolvedores e empresas, ajudará eles a identificar seu conteúdo gerado por IA. 🔍
Saiba mais → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y
— Google DeepMind (@GoogleDeepMind) Outubro 23, 2024
Especialistas da indústria elogiaram a Google por este passo na direção certa
Apesar do sistema da DeepMind performar melhor do que outras ferramentas na marca d'água de texto, os pesquisadores reconheceram em seu artigo que a ferramenta ainda tem falhas. Por exemplo, se você alterar um texto gerado pelo Gemini, o detector será enganado.
“Embora o SynthID não seja uma bala de prata para identificar conteúdo gerado por IA, é um bloco de construção importante para desenvolver ferramentas de identificação de IA mais confiáveis.”
– Kohli.
Se os usuários alterarem significativamente os textos ou usarem outro chatbot para resumir o texto, o detector será levado pelo caminho errado na marca d'água do texto gerado por IA.
A Google afirma que o SynthID Text não compromete a qualidade, a precisão ou a velocidade da geração de texto, conforme testado pelo sistema integrado em seus modelos Gemini. A empresa também acrescentou que funciona mesmo em textos que foram cortados, modificados ou parafraseados.
“A detecção é um problema particular quando se começa a considerar a implementação em situações reais, pois há problemas com a revisão de texto no mundo real, onde você terá que saber qual modelo de marca d'água foi aplicado para saber e onde localizar o sinal”, explicou Bruce MacCormack, membro do comitê diretor da C2PA.
Além da Google, a OpenAI também tem trabalhado há anos em tecnologia de marca d'água para texto de IA, mas adiou seu lançamento devido à viabilidade técnica e comercial.
Mas os especialistas da indústria geralmente elogiaram a iniciativa da Google como um passo na direção certa.
“Ela tem potencial para melhorar o uso de credenciais de conteúdo duráveis da C2PA para documentos e texto bruto”, disse Andrew Jenks, diretor de proveniência de mídia da Microsoft e presidente executivo da C2PA.
MacCormack também acrescentou que, embora os pesquisadores da Google ainda tenham muito a fazer para tornar isso um caso prático, continua sendo uma ótima iniciativa e “o primeiro passo na maratona que está por vir.”
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Enacy Mapakame
Enacy Mapakame é jornalista com mais de 10 anos de experiência em notícias de negócios e finanças. Cobre mercados de capitais e tecnologias emergentes — metaverso, IA e criptomoedas. Enacy possui graduação honrosa em Estudos de Mídia e Sociedade.















