- Big Tech implementa medidas para detectar conteúdo gerado por IA, aumentando a transparência.
- Desafios técnicos persistem na rotulagem e detecção de mídia gerada por IA.
- Quadros regulatórios emergem junto com esforços voluntários para combater conteúdo gerado por IA.
Em resposta às crescentes preocupações sobre a proliferação de conteúdo gerado por IA, grandes empresas de tecnologia anunciaram iniciativas destinadas a detectar e rotular esse tipo de conteúdo.
Esses esforços vêm à tona após incidentes como o escândalo de pornografia deepfake de Taylor Swift e a disseminação de deepfakes políticos.
Grandes Empresas de Tecnologia se Unem para Rotular e Detectar Conteúdo Gerado por IA
A Meta, anteriormente Facebook, anunciou planos de rotular imagens geradas por IA em suas plataformas, incluindo Facebook, Instagram e Threads. Essas etiquetas, marcadores visíveis, marcas d'água invisíveis e metadados embutidos nos arquivos de imagem visam aumentar a transparência e a responsabilidade em relação às origens do conteúdo.
O Google, por sua vez, juntou-se ao comitê diretor da C2PA (Content Authenticity Initiative), endossando um protocolo de código aberto projetado para fornecer "rótulos nutricionais" de conteúdo. Este movimento signica um esforço colaborativo entre gigantes da tecnologia para estabelecer padrões em toda a indústria para a detecção de conteúdo gerado por IA.
OpenAI implementa medidas de proveniência de conteúdo
A OpenAI também introduziu medidas para abordar o problema. Ela adicionará marcas d'água aos metadados das imagens geradas com seus modelos de IA, ChatGPT e DALL-E 3, fornecendo um rótulo visível que indica a participação da IA na criação de conteúdo.
Embora esses métodos representem um passo à frente, eles não são infalíveis, com desafios permanecendo na rotulagem e detecção de vídeo, áudio e texto gerados por IA.
Desafios e perspectivas futuras
Apesar dos avanços na rotulagem e marcação d'água de conteúdo, as limitações técnicas persistem. As marcas d'água nos metadados podem ser contornadas capturando capturas de tela, enquanto os rótulos visuais são suscetíveis a recortes ou edições. As marcas d'água invisíveis, como o SynthID do Google, oferecem maior resiliência, mas não estão isentas de desafios.
Necessidade de estruturas regulatórias
Além das medidas voluntárias, as estruturas regulatórias estão ganhando tração. Iniciativas como a Lei de IA da UE e a Lei de Serviços Digitais exigem a divulgação de conteúdo gerado por IA e a remoção acelerada de conteúdo prejudicial. Legisladores dos EUA também estão considerando regras vinculantes sobre deepfakes, com a Comissão Federal de Comunicações (FCC) proibindo recentemente o uso de IA em chamadas robóticas.
Embora as diretrizes voluntárias sejam um passo na direção certa, permanecem preocupações sobre a responsabilidade da indústria. O histórico de autorregulação do setor de tecnologia levanta dúvidas sobre a eficácia das medidas voluntárias. No entanto, os anúncios recentes sinalizam progresso em comparação com a falta de ação anterior.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Emman Omwanda
A especialidade de Emmanuel Omwanda reside nos mercados de criptomoedas, abrangendo tanto a análise fundamentalista quanto a técnica. Ele trabalhou anteriormente em diversos sites de mídia de criptomoedas antes de se juntar à Cryptopolitan, incluindo CoinEdition, The Crypto Basic, CryptoNews Flash e DroomDroom. Ele possui uma Licenciatura em Ciências (BSc.) em Matemática e Ciência da Computação pela Universidade Kenyatta, no Quênia, e está atualmente no último ano de graduação em Artes em Comunicação e Estudos de Mídia.
