A Meta implementará rotulagem de conteúdo por IA até maio em resposta às preocupações com deepfakes

Para acalmar as preocupações de usuários e governos em relação aos deepfakes, a Meta, gigante do Facebook e Instagram, anunciou na sexta-feira que começará a etiquetar conteúdo gerado por IA a partir de maio. A empresa afirmou ainda que, para respeitar o direito à liberdade de expressão, não excluirá mais fotos e sons alterados que não violem suas políticas, passando a se basear na terminologia e no contexto, e incluirá um rótulo "Feito com IA". Publicações no Facebook, Threads e Instagram estão sujeitas à política.

A Meta anunciou que começará a designar mais conteúdo de áudio, vídeo e imagem como gerado por inteligência artificial (IA), admitindo que sua política atual é "muito restritiva". Embora a empresa não tenha detalhado seu método de detecção, os rótulos serão aplicados quando os usuários confessarem o uso de ferramentas de IA ou quando a Meta reconhecer o conteúdo com seus indicadores de imagem de IA, que são padrão na indústria.

Meta responde às críticas do conselho de supervisão

As modificações foram motivadas por críticas do conselho de supervisão da Meta, um painel de avaliaçãodent para o gigante da internet que modifica conteúdo. Com os enormes avanços na IA e a facilidade com que as mídias podem ser manipuladas para criar deepfakes altamente convincentes, o conselho solicitou à Meta, em fevereiro, que fizesse alterações em seu conteúdo

para reavaliar rapidamente sua estratégia de manipulação da mídia. Em meio a um importante ano eleitoral, tanto em âmbito local quanto global, o conselho emitiu o alerta em meio a preocupações com o crescente uso indevido de aplicativos com inteligência artificial para desinformação em plataformas digitais.

Monika Bickert, vice-dent de Política de Conteúdo, disse:

“Concordamos com o argumento do Conselho de Supervisão de que nossa abordagem atual é muito restrita, pois abrange apenas vídeos criados ou alterados por IA para fazer uma pessoa parecer dizer algo que não disse.”

Fonte: Meta

Em resposta às recomendações do conselho de supervisão, a Meta optou por mudar sua abordagem em relação à mídia manipulada. Em vez da remoção direta, a empresa agora utilizará rotulagem e contextualização para fornecer transparência sobre a origem e a autenticidade do conteúdo. Como afirma a Meta, isso se deve ao seu compromisso com a liberdade de expressão, ao mesmo tempo em que protege o público dos danos causados ​​por mídias enganosas ou fraudulentas.

Implementação de rotulagem de conteúdo por IA

O projeto de rotulagem da Meta será implementado em duas etapas, sendo a primeira iniciada em maio de 2024. Conteúdos gerados por IA— incluindo diversos formatos de mídia, como áudio, vídeo e imagens — serão reconhecidos e categorizados adequadamente durante essa etapa. Para alertar os usuários sobre a possibilidade de manipulação, conteúdos considerados de alto risco para enganar o público também receberão rotulagem mais destacada.

A remoção de conteúdo alterado com base apenas na política anterior será descontinuada como parte da segunda fase de implementação do Meta, que está prevista para entrar em vigor em julho. A menos que o conteúdo manipulado por IA viole outros Padrões da Comunidade, como aqueles que proíbem discurso de ódio ou interferem em eleições, ele permanecerá acessível na plataforma sob a nova norma. O Meta está empenhado em encontrar um equilíbrio entre preservar a integridade de suas plataformas e permitir a liberdade de expressão, e este método representa esse compromisso.

Bickert acrescentou, 

“Os rótulos abrangerão uma gama mais ampla de conteúdo, além do conteúdo manipulado que o Conselho de Supervisão recomendou rotular.” 

Fonte: Meta Inc.

Independentemente de ter sido criado com ferramentas de IA ou não, o conteúdo que violar outras diretrizes — como as relacionadas a bullying, interferência em eleições e assédio — ainda será removido.

Grandes gigantes digitais e empresas de IA chegaram a um acordo em fevereiro para combater o conteúdo manipulado com o objetivo de enganar os eleitores, o que está relacionado a essas novas abordagens de rotulagem. Um padrão único de marca d'água para ser usado em fotos geradas por aplicativos de IA já foi acordado entre Meta, Google e OpenAI.