Meta para rotular mídia gerada por IA no Facebook e Instagram

A Meta, empresa controladora do Facebook e do Instagram, anunciou que deixará de aplicar tags manuais a mídias sintéticas produzidas a partir de maio. Essas medidas podem reduzir o impacto de ataques frequentes de deepfakes e desinformação em suas plataformas.

Abordando preocupações com a desinformação

A Meta deverá tomar novas medidas para mitigar a disseminação de conteúdo sintético em resposta às crescentes críticas e ao rápido avanço das tecnologias de IA. A partir de maio de 2024, a empresa introduzirá etiquetas "Feito com IA" para indicar quando textos, imagens, áudios e vídeos foram criados ou modificados usando inteligência artificial.

A decisão da Meta de etiquetar o material produzido por IA faz parte de uma ampla campanha da empresa para fornecer aos usuários mais informações e, consequentemente, mais transparência. Isso significa que o Facebook não poderá excluir o conteúdo falso, mas poderá etiquetá-lo, contextualizando-o. Afinal, é isso que Mark Zuckerberg, CEO da Meta, afirmou que a empresa fará: lançar uma iniciativa educativa sobre os malefícios da mídia manipulada. É o que afirma uma investigação encomendada pelo conselho de supervisão do Facebook.

No entanto, havia a preocupação de que aplicações baseadas em inteligência artificial em campanhas de notícias falsas pudessem ser usadas para interferir no processo eleitoral. Em segundo lugar, o conselho expressou urgência e enfatizou a necessidade premente de contramedidas eficazes, principalmente durante o período eleitoral em qualquer país.

Planejamento de implementação e modificações de políticas

Conteúdos manipulados que foram removidos antes da implementação da política serão reativados posteriormente, ficando disponíveis para visualização pelos usuários nas páginas de notícias do Facebook. Conteúdos manipulados por IA sob o novo padrão serão removidos apenas se violarem outras regras da plataforma, como aquelas contra discurso de ódio ou interferência eleitoral.

Um dos muitos acordos que tratam de conteúdo manipulado, o Meta tem um grande foco na cooperação com outras gigantes da tecnologia e desenvolvedores de IA. Meta, Google e OpenAI concordaram com um tratado de interoperabilidade por meio de uma marca d'água unificada e invisível, que usarão em seu aplicativo de processamento de imagens automatizado por IA. No entanto, ao lidar com esse desafio, algumas questões sobre a eficácia dessas soluções, principalmente aquelas relacionadas a código aberto, que podem não depender de tais políticas, permanecem em aberto.

Casos recentes de deepfakes gerados por IA, que se revelaram autênticos, irão alimentar os receios da sociedade em relação a conteúdo falso. O serviço Meta visa resolver este problema, rotulando o conteúdo falso e fornecendo aos utilizadores apenas a informação de que realmente necessitam sobre a integridade do conteúdo com o qual interagem no seu site.

Este desenvolvimento recente, que a gigante das redes sociais Facebook anunciou que passará a rotular o conteúdo gerado por IA tanto no Facebook quanto no Instagram, pode ser visto como uma medida preventiva contra o medo instigado por deepfakes e desinformação. A ideia é eliminar todos os resíduos com essa abordagem, neutralizando os perigos resultantes do uso de material desviado e defendendo os princípios da liberdade de expressão. Essas medidas têm se mostrado notavelmente eficazes na mitigação dos desafios induzidos pela IA, embora o problema continue sendo complexo, dada a rapidez com que a IA está se desenvolvendo e a natureza mutável das notícias falsas.