A Meta utiliza a ferramenta de IA para imagens do Instagram, testando os limites da extração de imagens por IA

Apenas três dias após o lançamento, a Meta removeu um recurso do Instagram que permitia aos usuários usar inteligência artificial para criar imagens com base em fotos de perfil de outros usuários. A decisão da empresa de remover a função demonstra uma crescente preocupação com o consentimento e o uso de imagens na era da inteligência artificial.

Otracrepresenta um revés inicial para os esforços da Meta em alcançar a OpenAI e o Google no campo da IA ​​generativa. Embora o modelo de imagem Muse ainda esteja disponível, a empresa removeu a opção de criar imagens com base em perfis públicos do Instagram em suas solicitações de geração de imagens, após críticas de criadores, artistas e defensores da privacidade.

O que a Meta construiu e o que ela desfez

A Meta apresentou o Muse Image em 7 de julho, afirmando que a nova ferramenta de geração de imagens com inteligência artificial é o primeiro produto de seu Laboratório de Superinteligência, liderado por Alexandr Wang. A nova tecnologia oferece 30 efeitos no Instagram e, segundo testes internos da Meta, supera o Google Nano Banana 2, ficando atrás apenas do gerador de imagens do ChatGPT.

A disputa não se concentrou no modelo em si, mas na forma como ele tratava as imagens enviadas pelos usuários. Ao marcar suas contas públicas de conteúdo adulto no Instagram, os usuários podiam usar as imagens públicas dessas contas em fotos geradas por IA. Usuários menores de 18 anos e contas privadas eram excluídos do sistema, enquanto contas públicas de conteúdo adulto eram inscritasmatica menos que fossem desativadas manualmente pelos usuários.

Segundo a Meta, o objetivo do recurso era dar aos usuários “controle sobre se seu conteúdo público poderia ser referenciado”. No entanto, muitos críticos pensam justamente o contrário: introduzir o sistema de desativação significa presumir que o consentimento é dado por padrão.

Como resultado, na sexta-feira, a empresa mudou de ideia.

Um representante da Meta declarou à Variety que "recebemos o feedback de que esse recurso não atingiu o objetivo, portanto, ele não está mais disponível".

Criadores e grupos de segurança forçaram otrac

O recurso gerou críticas quase imediatamente após seu lançamento. O Sindicato dos Atores de Cinema e da Federação Americana de Artistas de Televisão e Rádio (SAG-AFTRA) aconselhou seus membros a desativarem o recurso, alertando os artistas para que "tomassem medidas para proteger sua imagem"

A agência de talentos Creative Artists Agency, LLC (CAA), que representa Tom Hanks e Meryl Streep, entre outros, afirmou estar em contato direto com a Meta e expressou que o sistema de IA jamais deveria usar nomes, imagens, semelhanças e vozes de pessoas sem o seu consentimento explícito.

Enquanto isso, defensores da privacidade alertaram que a tecnologia poderia facilitar a falsificação de identidade, o uso de imagens íntimas sem consentimento e golpes online. Haley McNamara, do Centro Nacional de Exploração Sexual, afirmou em entrevista ao The Verge que a possibilidade de os indivíduos optarem por não participar transferiu a responsabilidade da empresa para os usuários da tecnologia.

A disputa destaca a batalha legal em torno da criação de representações digitais por IA

A controvérsia destaca uma questão mais ampla que a indústria de IA enfrenta: publicar uma foto publicamente também dá às empresas o direito de usá-la para IA generativa?

Este tema está cada vez mais relacionado com a legislação europeia sobre privacidade. O Regulamento Geral de Proteção de Dados (RGPD) defiimagens de pessoas como dados pessoais, o que significa que as organizações precisam encontrar uma base legal para processar esses dados, de acordo com o Artigo 6.º.

Caso seja necessário obter o consentimento de um indivíduo, o Artigo 7º estabelece que esse consentimento deve ser livre, específico e informado. O Artigo 9º especifica que o tratamento de dados biométricos deve exigir maior responsabilidade paradentuma pessoa de forma inequívoca. Os Artigos 12 a 14º também estabelecem que as organizações devem descrever como as informações pessoais são utilizadas, para que os indivíduos estejam mais cientes de seu uso.

Os órgãos reguladores também estão ampliando seu foco para além das regras tradicionais de privacidade. A Lei de IA da UE exige que os provedores informem o público se o conteúdo foi criado ou aprimorado usando tecnologias de IA, como deepfakes. O objetivo dessa exigência é proporcionar transparência sobre a mídia sintética, em vez de proibir o uso desse tipo de tecnologia por completo.

Mas a Meta não é a única empresa a enfrentar esse problema. Há poucos meses, a OpenAI foi obrigada a remover uma opção semelhante de desativação em seu modelo de vídeo Sora devido à reação negativa que recebeu em relação ao uso de imagens disponíveis publicamente.

As intervenções confirmam que os desenvolvedores de tecnologia de IA estão enfrentando desafios mais difíceis devido à atenção que os reguladores e criadores dedicam para garantir que o consentimento seja dado de forma inequívoca antes de manipular a imagem de qualquer pessoa.

A discussão sobre o assunto já chegou ao âmbito legislativo. A Califórnia aprovou duas leis, AB 2602 e AB 1836, que exigem autorização prévia para o uso comercial de imagens geradas por inteligência artificial de artistas vivos ou mortos.

Embora as leis possam estar mais relacionadas a contratos de entretenimento do que à aplicabilidade da IA ​​no âmbito do consumidor, elas indicam, no entanto, uma tendência a considerar as representações de IA como algo que precisa de permissão, em vez de simplesmente presumir que podem ser usadas por qualquer pessoa.

Os investidores parecem não se importar com toda a polêmica. Conforme relatado anteriormente pela Cryptopolitan, as ações da Meta fecharam a US$ 615,58 no dia do lançamento (7 de julho), o que representa uma alta de 2,55% no dia e o maior fechamento em um mês.

Ainda assim, permanece a questão de saber se a publicidade de conteúdo permite que os usuários o utilizem para o desenvolvimento de IA. De fato, se as recentes decisões da Meta refletem uma tendência mais ampla no mercado de IA, o simples fato de tornar algo público não confere a terceiros o direito de usá-lo em IA. Ao mesmo tempo, torna-se evidente que o consentimento desempenhará um papel importante no desenvolvimento de novos produtos de IA para consumidores, visto que é cada vez mais exigido pela indústria e por organizações públicas.