O Google disponibiliza gratuitamente a ferramenta de marca d'água para que os usuáriosdenttextos gerados por IA

O Google tornou público o código-fonte da ferramenta de marca d'água de texto SynthID, uma tecnologia que permite aos usuários detectar facilmente se um texto é original ou gerado por IA.

Segundo o Google, o detector de texto gerado por IA pode ser baixado da plataforma de IA Hugging Face e do pacote atualizado Responsible GenAI Toolkit do Google. As marcas d'água ganharam importância com o crescimento da IA ​​generativa nos últimos dois anos, visto que as marcas d'água estão sendo manipuladas para disseminar desinformação e informações falsas, além de conteúdo sexual não consensual e para fins maliciosos.

O desenvolvimento surge em um momento de urgência para criar essas ferramentas, visto que a Agência Europeia de Aplicação da Lei está preocupada com a possibilidade de 90% dos textos online serem sintéticos até 2026, tornando a propaganda, a fraude e o engano desenfreados.

Pesquisadores do Google explicam sua ferramenta de marca d'água

Em uma publicação na plataforma X, a gigante dos mecanismos de busca revelou que está disponibilizando o código-fonte de sua ferramenta de marca d'água de texto SynthID, afirmando que ela estará "disponível gratuitamente para empresas e desenvolvedores, pois os ajudará a identificardentconteúdo gerado por IA".

Pushmeet Kohli, vice-dent de pesquisa do Google DeepMind e coautor de um artigo científico da instituição, afirmou: "O sistema não compromete as funções dos modelos de IA, apenas as aprimora."

Imagens e vídeos têm sido fundamentais nas discussões sobredentde conteúdo, e as marcas d'água foram apontadas como a solução necessária para combater os deepfakes.

A Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA), uma colaboração entre empresas de tecnologia e grandes veículos de comunicação para desenvolver um sistema de anexação de metadados criptografados que indiquem arquivos de imagem e vídeo gerados por IA, também tem sido fundamental nessas discussões.

De acordo com o artigo de pesquisa do Google DeepMinds, o SynthID Text interfere durante a geração, alterando algumas palavras emitidas por um chatbot para que sejam legíveis para um detector do SynthID, mas praticamente invisíveis para humanos.

“Modificações como essas introduzem uma assinatura estatística no texto gerado por IA e, durante a fase de detecção da marca d'água, a assinatura pode ser medida para verificar se o texto foi gerado por um modelo de IA através do LLM com marca d'água”, escreveram os pesquisadores no artigo.

Ao gerar frases palavra por palavra, é assim que os LLMs (Máquinas de Aprendizado de Linguagem) que alimentam os chatbots funcionam, escolhendo a próxima palavra provável com base no contexto do que veio antes. Atribuindo pontuações numéricas aleatoriamente às palavras candidatas, o LLM produz palavras com pontuação mais alta. Marcas d'água serão colocadas em trechos de texto que foram analisados ​​pelo detector e que obtiveram uma pontuação mais alta.

Hoje, estamos disponibilizando o código aberto da nossa ferramenta de marca d'água de texto SynthID por meio de uma versão atualizada do Responsible Generative AI Toolkit.

Disponível gratuitamente para desenvolvedores e empresas, ajudará adentseu conteúdo gerado por IA. 🔍

Saiba mais → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y

— Google DeepMind (@GoogleDeepMind) 23 de outubro de 2024

Especialistas do setor elogiam o Google por dar um passo na direção certa

Apesar do sistema DeepMind apresentar melhor desempenho do que outras ferramentas na marcação de textos, os pesquisadores reconheceram em seu artigo que a ferramenta ainda possui falhas. Por exemplo, se você alterar um texto gerado pelo Gemini, o detector será enganado.

“Embora o SynthID não seja uma solução milagrosa paradentconteúdo gerado por IA, ele é um componente importante para o desenvolvimento de ferramentas dedentde IA mais confiáveis.”

– Kohli.

Se os usuários alterarem os textos de forma significativa ou utilizarem outro chatbot para resumir o texto, o detector será induzido ao erro ao adicionar a marca d'água ao texto gerado pela IA.

O Google afirma que o SynthID Text não compromete a qualidade, a precisão ou a velocidade de geração de texto, conforme testado pelo sistema integrado em seus modelos Gemini. A empresa também acrescentou que ele funciona mesmo com textos que foram cortados, modificados ou parafraseados.

“A detecção é um problema particular quando se começa a considerar a implementação em situações reais, pois existem dificuldades na análise de textos em contexto real, onde é preciso saber qual modelo de marca d'água foi aplicado para identificar e localizar o sinal”, explicou Bruce MacCormack, membro do comitê diretivo do C2PA.

Além do Google, a OpenAI também trabalha há anos em tecnologia de marca d'água de texto com IA, mas adiou seu lançamento devido à viabilidade técnica e comercial.

Mas, de modo geral, especialistas do setor elogiaram a iniciativa do Google como um passo na direção certa.

“Isso promete melhorar o uso dedentde conteúdo duráveis ​​do C2PA para documentos e texto bruto”, disse Andrew Jenks, diretor de proveniência de mídia da Microsoft e presidente executivo do C2PA.

MacCormack acrescentou ainda que, embora os pesquisadores do Google ainda tenham muito trabalho a fazer para tornar isso viável na prática, continua sendo uma ótima iniciativa e "o primeiro passo na maratona que temos pela frente"