Nova Ferramenta 'Nightshade' Desafia a Tecnologia de Texto para Imagem da IA
- ‘Nightshade’ interrompe os dados de treinamento da IA, capacitando artistas contra violação de direitos autorais.
- Artistas buscam proteção enquanto modelos de IA utilizam seu trabalho sem consentimento.
- O processo complexo de remoção da OpenAI impulsiona o desenvolvimento de ferramentas como Nightshade.
A tecnologia de IA Generativa, como o ChatGPT da OpenAI, fez avanços significativos no processamento de linguagem natural. No entanto, estes modelos de IA dependem de conjuntos de dados massivos extraídos da web, levantando preocupações entre artistas e fotógrafos cujo trabalho é utilizado sem permissão ou compensação.
Artistas e Fotógrafos vs. IA Generativa
As ferramentas de IA Generativa podem criar imagens a partir de prompts de texto, mas dependem de imagens online extraídas para o treino. Isto levou artistas e fotógrafos a expressar frustração pelo seu trabalho criativo ser utilizado sem consentimento. Procuram formas de proteger os seus direitos de propriedade intelectual.
Nightshade: Uma ferramenta para confundir modelos de IA
Uma equipa de investigadores desenvolveu uma ferramenta chamada “Nightshade” para combater este problema. O Nightshade foi concebido para interromper os modelos de treino de IA, introduzindo píxeis invisíveis nas obras de arte antes de serem carregados na web. Este processo “envenena” os dados de treino, fazendo com que os modelos de IA gerem imagens imprecisas em resposta a prompts.
Implicações para os modelos de IA
O MIT Technology Review relata que o uso do Nightshade poderia potencialmente danificar as futuras iterações de modelos de IA geradores de imagens como o DALL-E, Midjourney e Stable Diffusion. Estes modelos poderiam produzir saídas onde cães se tornam gatos, carros se tornam vacas, e assim por diante. A investigação por trás do Nightshade foi submetida para revisão por pares, destacando a sua importância.
Equilíbrio de poder: Artistas vs. empresas de tecnologia
O Nightshade oferece um vislumbre de esperança para artistas que procuram proteger as suas criações. O professor da Universidade de Chicago Ben Zhao, que liderou a equipa de investigação, sugere que esta ferramenta poderia reequilibrar a balança de poder a favor dos criadores de conteúdo. Serve como um aviso para as empresas de tecnologia que ignoram os direitos de autor e de propriedade intelectual.
A escala do problema
Os grandes modelos de IA utilizam conjuntos de dados compostos por biliões de imagens, tornando o impacto das imagens envenenadas significativo. Quanto mais imagens envenenadas forem integradas nestes modelos, maior será a perturbação causada, potencialmente remodelando o panorama da IA.
Colaboração de código aberto e uso ético
A equipa por trás do Nightshade planeia lançá-la como uma ferramenta de código aberto, convidando outros a refinar e melhorar a sua eficácia. Eles enfatizam que o Nightshade deve ser visto como um último recurso para criadores de conteúdo que lidam com scrapers web que ignoram os seus direitos.
Desafios na proteção dos direitos dos artistas
A OpenAI, criadora do DALL-E, começou recentemente a permitir que artistas removam o seu trabalho dos seus dados de treino. No entanto, o processo foi criticado como oneroso, exigindo que os artistas submetam pedidos individuais para cada imagem que desejam remover. Simplificar este processo de remoção poderia desencorajar os artistas de recorrer a ferramentas como o Nightshade, o que poderia ter repercussões a longo prazo para os desenvolvedores de IA.
À medida que a batalha entre artistas que procuram proteger os seus direitos de propriedade intelectual e desenvolvedores de IA que treinam os seus seus modelos se intensifica, ferramentas como o Nightshade podem tornar-se uma arma vital para os criadores de conteúdo. O uso ético da IA e o respeito pelas questões de direitos de autor estão a tornar-se cada vez mais importantes no panorama em evolução da inteligência artificial.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Glory Kaburu
Glory é uma jornalista extremamente conhecedora, proficiente em ferramentas de IA e pesquisa. Ela é apaixonada por IA e escreveu vários artigos sobre o assunto. Mantém-se atualizada com os últimos desenvolvimentos em Inteligência Artificial, Aprendizado de Máquina e Aprendizado Profundo, escrevendo regularmente sobre eles.
