Meta remove ferramenta de imagem com IA do Instagram, testando os limites da raspagem de semelhanças com IA

Apenas três dias após o lançamento, a Meta removeu um recurso do Instagram que permitia aos usuários usar IA para criar imagens com base em fotos de perfil de outros usuários. A decisão da empresa de remover a função mostra uma crescente preocupação sobre o consentimento e o uso de imagens na era da inteligência artificial.

A reversão é um revés inicial para os esforços da Meta para alcançar a OpenAI e o Google no campo da IA generativa. Embora o modelo de imagem Muse ainda esteja disponível, a empresa descartou a opção de criar imagens com base em perfis públicos do Instagram em suas solicitações de geração de imagem após críticas de criadores, artistas e defensores da privacidade.

O que a Meta construiu, e o que ela desfez

A Meta apresentou o Muse Image em 7 de julho, afirmando que a nova ferramenta de geração de imagens com IA é o primeiro produto de seu Superintelligence Lab liderado por Alexandr Wang. A nova tecnologia impulsiona 30 efeitos no Instagram e diz-se superar o Google Nano Banana 2 de acordo com os testes internos da Meta, ficando atrás apenas do gerador de imagens do ChatGPT.

A disputa não se concentrou no modelo em si, mas na forma como ele tratava as imagens enviadas pelos usuários. Ao marcar sua conta pública do Instagram para adultos, os usuários podiam usar as imagens públicas dessa conta em fotos geradas por IA. Usuários abaixo de 18 anos e contas privadas foram excluídos do sistema, enquanto contas públicas de adultos eram automaticamente inscritas, a menos que desativadas manualmente pelos usuários.

De acordo com a Meta, o objetivo do recurso era dar aos usuários "controle sobre se seu conteúdo público poderia ser referenciado". No entanto, muitos críticos pensam o oposto: introduzir um sistema de opção de saída significa assumir que o consentimento é dado por padrão.

Como resultado, até sexta-feira, a empresa mudou de ideia.

Um representante da Meta declarou à Variety que "ouvimos os comentários de que este recurso não atingiu o objetivo, portanto, ele não está mais disponível."

Criadores e grupos de segurança forçaram a reversão

O recurso atraiu críticas quase imediatamente após seu lançamento. A Screen Actors Guild–American Federation of Television and Radio Artists (SAG-AFTRA) aconselhou seus membros a desligarem o recurso, alertando os artistas a "tomarem medidas para proteger sua imagem".

A agência de talentos Creative Artists Agency, LLC (CAA), que representa Tom Hanks e Meryl Streep, entre outros, disse que estava em contato direto com a Meta e expressou que o sistema de IA nunca deveria usar os nomes, imagens, semelhanças e vozes das pessoas na ausência de seu consentimento explícito.

Enquanto isso, defensores da privacidade alertaram que a tecnologia poderia facilitar a suposição de identidade, imagens íntimas não consentidas e golpes online. Haley McNamara, do National Center on Sexual Exploitation, disse em sua entrevista para The Verge que a noção de indivíduos optando por sair transformava a responsabilidade da empresa para os usuários da tecnologia.

A disputa destaca a batalha legal sobre as semelhanças com IA

A controvérsia destaca uma questão mais ampla que enfrenta a indústria de IA: Postar uma foto publicamente também dá às empresas o direito de usá-la para IA generativa?

Este tópico está cada vez mais conectado com a lei europeia de privacidade. O Regulamento Geral sobre a Proteção de Dados (GDPR) define imagens de pessoas como dados pessoais, o que significa que as organizações precisam encontrar uma base legal para processar esses dados sob o Artigo 6.

Se houver necessidade de obter o consentimento de um indivíduo, o Artigo 7 diz que o consentimento deve ser dado livremente, especificamente e com conhecimento. O Artigo 9 especifica que o processamento de dados biométricos deve exigir mais responsabilidade para identificar exclusivamente uma pessoa. Os Artigos 12-14 também afirmam que as organizações devem descrever como as informações pessoais são usadas para que os indivíduos estejam mais cientes de seu uso.

Os reguladores também estão expandindo seu foco além das regras tradicionais de privacidade. A Lei de IA da UE exige que os provedores informem o público se o conteúdo foi criado ou aumentado usando tecnologias de IA, como deepfakes. O objetivo deste requisito é fornecer transparência sobre a mídia sintética em vez de proibir o uso desse tipo de tecnologia por completo.

Mas a Meta não é a única empresa enfrentando esse problema. Há apenas alguns meses, a OpenAI foi forçada a remover uma opção de saída semelhante em seu modelo de vídeo Sora devido à reação negativa que recebeu sobre o uso de imagens publicamente disponíveis.

As intervenções confirmam, os desenvolvedores de tecnologia de IA estão enfrentando desafios mais rigorosos devido à atenção que reguladores e criadores dedicam a garantir que o consentimento seja dado de forma inequívoca antes de manipular a imagem de qualquer pessoa.

A discussão sobre a questão já avançou para o âmbito da legislação. A Califórnia aprovou duas leis, AB 2602 e AB 1836, que exigem permissão antes do uso comercial de uma imagem gerada por IA de um performer vivo ou falecido.

Embora as leis possam estar mais relacionadas a acordos de entretenimento do que à aplicabilidade da IA no setor de consumo, elas indicam uma tendência de considerar as imagens geradas por IA como algo que requer permissão, em vez de presumir que podem ser usadas por qualquer pessoa.

Os investidores parecem não afetados por todo o alvoroço. De acordo com relatórios anteriores do Cryptopolitan, as ações da Meta fecharam em US$ 615,58 no dia do lançamento (7 de julho), o que representa um aumento de 2,55% no dia e é seu fechamento mais alto em um mês.

No entanto, permanece a questão de saber se a divulgação de conteúdo permite que os usuários se aproveitem dela para o desenvolvimento de IA. De fato, se as recentes decisões da Meta refletem uma tendência mais ampla no mercado de IA, simplesmente tornar algo público não dá a outros o direito de o usar em IA. Ao mesmo tempo, está a tornar-se claro que o consentimento desempenhará um papel importante no desenvolvimento de novos produtos de IA para consumidores, à medida que é cada vez mais solicitado pela indústria e por organizações públicas.