Ferramenta de Detecção de Imagens da OpenAI Mostra Resultados Promissores, mas Enfrenta Desafios
- A OpenAI lançou uma ferramenta capaz de identificar imagens geradas por IA, numa tentativa de enfrentar o desafio das ameaças dos deepfakes.
- O detector identifica 98% das imagens do modelo DALL-E 3, mas não consegue detetar aquelas que foram modificadas.
- A OpenAI planeia aperfeiçoar a ferramenta através da realização de experimentos e da coordenação com investigadores externos.
Imagens geradas por IA podem enganar você, fazendo você perceber conteúdo falso como original. É por isso que a OpenAI, desenvolvedora do ChatGPT, criou uma ferramenta que pode determinar se uma imagem resulta do DALL-E 3, o único algoritmo de geração de imagens que eles desenvolveram.
Na terça-feira, a OpenAI deu aos usuários a primeira chance de testar uma ferramenta de detecção de imagens composta por modelos base e ajustados. O objetivo é envolver pesquisadores de auto-desempenho para examinar a apreensão, utilidade, maneiras como poderia ser aplicada e fatores que podem causar conteúdo gerado por IA.
Taxa de sucesso da ferramenta e testes
A OpenAI testou a ferramenta internamente e, em alguns aspectos, tem sido encorajadora, enquanto, por outro lado, tem sido muito decepcionante. Avaliar as imagens produzidas pelo DALL-E 3 renderizou 98% delas corretamente. Além disso, ao analisar imagens não feitas pelo DALL-E 3, o sistema atribuiria erroneamente a elas o DALL-E 3 apenas 0,5% das vezes.
A OpenAI não encontrou a modificação de uma imagem com uma diferença ligeiramente significativa. A equipe interna testou a ferramenta comprimindo, cortando e introduzindo mudanças de saturação na imagem criada pelo DALL-E 3 e observou que a ferramenta ainda era capaz de alcançar um bom nível de sucesso.
Desafios e limitações
Infelizmente, a ferramenta não foi muito eficaz com imagens que foram processadas extensivamente. A redação deste artigo pela OpenAI não está clara sobre quantas modificações eles fizeram nos casos que descrevem, e eles dizem que "outras modificações podem reduzir o desempenho."
Em uma entrevista com The Wall Street Journal, Sandhini Agarwal, uma pesquisadora, disse que a ferramenta foi menos eficaz em situações como a mudança de matiz da imagem e que uma assinatura é necessária. Como Agarwal mencionou, para lidar com esse tipo de problema, a OpenAI trará testadores externos para o sistema.
Além disso, os testes internos também questionaram a capacidade da ferramenta de analisar as imagens feitas com modelos de IA de outras empresas. Nessas situações, a ferramenta da OpenAI poderia reconhecer apenas 5% ou 10% das imagens em relação a modelos que não sejam o dela. Tais modificações nessas imagens, como mudanças de matiz, também diminuíram significativamente a eficiência, disse Agarwal ao Journal.
Imagens feitas por IA não são apenas artificiais, mas também apresentam problemas neste ano eleitoral. Grupos prejudicados, tanto dentro quanto além de um país, podem facilmente usar essas fotos para manchar um político aspirante ou um caso sendo defendido. Nos dias de hoje, quando os geradores de imagens por IA continuam a se desenvolver, a linha entre realidade e fantasia é mais difícil de distinguir do que nunca.
Adoção pela indústria
Por outro lado, a OpenAI está buscando adicionar marcas d'água aos metadados de imagens de IA à medida que as empresas se tornam membros da User Value Organization (UVG). O C2PA pertence a uma iniciativa da indústria tecnológica que vem com padrões técnicos para revelar a origem do conteúdo e sua autenticidade no processo conhecido como marca d'água. O gigante do Facebook Meta disse no início deste mês que sua IA será rotulada como tal pelo padrão C2PA a partir deste maio.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Brenda Kanana
Brenda tem mais de 4 anos de experiência especializada em criptomoedas, inteligência artificial e tecnologias emergentes. Ela trabalhou na Zycrypto, Blockchain Reporter, The Coin Republic e agora faz do Cryptopolitan seu lar. Sua graduação em Sociologia pela Mombasa Technical University mantém-a alinhada com o pulso de seus leitores.
