Uma nova ferramenta pode proteger criadores de imagens contra IA

Uma equipe de desenvolvedores liderada pelo professor Ben Zhao, da Universidade de Chicago, apresentou uma nova ferramenta chamada "Nightshade" para ajudar artistas digitais a protegerem suas obras contra a coleta e o uso no treinamento de algoritmos de inteligência artificial.

A beladona pode ser a solução para o pesadelo dos artistas com a IA

Nos últimos meses, os geradores de arte por IA tornaram-se cada vez mais sofisticados e agora são capazes de criar imagens quase indistinguíveis da arte feita por humanos. 

Embora algumas pessoas se beneficiem de imagens geradas por IA, os próprios artistas temem que suas obras estejam sendo exploradas e desvalorizadas por ferramentas de IA, além de outras questões relacionadas a direitos autorais e violação de propriedade intelectual. 

Em agosto, três artistas digitais entraram com um processo contra as empresas de imagens geradas por IA Stability AI, Midjourney e DeviantArt, buscando indenização por danos e uma ordem judicial para impedir que as empresas explorem as obras dos artistas sem consentimento.

Os artistas reclamaram que as empresas violaram seus direitos e os de milhões de outros artistas cujas obras foram extraídas e inseridas em algoritmos de IA para produzir trabalhos derivados que agora competem com os originais. 

A beladona, embora ainda em desenvolvimento, pode ser a solução para esse pesadelo. 

Como funciona a beladona?

Segundo relatos, o software torna as imagens inutilizáveis ​​para o treinamento de modelos de IA apenas fazendo pequenas alterações nos pixels das imagens. As alterações são tão pequenas que são invisíveis a olho nu, mas suficientemente eficazes para fazer com que os algoritmos de IA identifiquem o assunto de forma completamentedent. 

Por exemplo, uma imagem de um gato modificada com beladona pode ser interpretada erroneamente por um algoritmo de IA como sendo a de um cachorro. Ter imagens modificadas desse tipo em bancos de imagens de IA pode prejudicar significativamente o resultado ou o desempenho dos geradores de imagens de IA.

O objetivo é impedir que empresas de IA alimentem algoritmos de IA com imagens artísticas sem autorização, além de evitar que geradores de imagens por IA sejam usados ​​para criar imagens falsas e arte pirateada.

Nesse sentido, algumas empresas estão começando a implementar medidas para ajudar as pessoas a distinguir entre arte falsa e arte feita pelo homem. 

No início deste mês, Cryptopolitan noticiou que a OpenAI, empresa desenvolvedora do ChatGPT, está criando uma nova ferramenta capaz de distinguir imagens geradas por IA de imagens reais com 99% de precisão. A ferramenta ainda está em fase de testes internos, antes de seu lançamento público.