A Administração do Ciberespaço da China está considerando rotular todo o conteúdo criado por inteligência artificial como parte de uma nova proposta de regulamentação. Segundo relatos, o órgão regulador, autoridade chinesa da internet, já elaborou um plano preliminar solicitando que todas as plataformas digitais e provedores de serviços online adicionem a marca de IA ao conteúdo gerado por inteligência artificial.
Em um comunicado divulgado em 14 de setembro, o órgão regulador afirmou que essa medida padronizaria o dent de conteúdo gerado por IA e protegeria a segurança nacional e os interesses de indivíduos e organizações que utilizam as plataformas.
O órgão regulador divulgou um projeto de lei aberto para consulta pública até 14 de outubro. De acordo com o comunicado, o público pode enviar comentários por e-mail para [email protected] ou por carta para o Departamento de Tecnologia de Gerenciamento de Redes do Escritório Estadual de Informação da Internet.
Embora os comentários do público possam influenciar a versão final das regras, especialistas acreditam que as regras propostas provavelmente serão aprovadas em sua forma atual, com alterações mínimas, já que as autoridades chinesas não são conhecidas por fazer mudanças drásticas em projetos de regras com base em comentários recebidos.
As regras preliminares exigem a adição de logotipos e comandos de voz ao conteúdo de IA
A proposta de regulamentação exige que qualquer arquivo de texto, vídeo ou imagem criado por IA inclua um logotipo indicando que foi gerado por IA, notificando efetivamente qualquer pessoa que se depare com esse conteúdo. Para garantir que os usuários percebam o aviso, a regulamentação prevê que ele seja exibido no início, no fim e em outros momentos relevantes do vídeo.
Para arquivos de áudio, os criadores devem adicionar avisos de voz que informem os usuários quando estiverem prestes a ouvir conteúdo gerado por IA, notificando-os sobre várias partes do conteúdo de áudio. Todos os softwares que reproduzem conteúdo de áudio também deverão ter avisos que informem os usuários quando começarem a ouvir conteúdo gerado por IA.
O artigo 4º das regras propostas diz o seguinte:
“Se o serviço de síntese de geração fornecido pelo provedor de serviços se enquadrar no primeiro parágrafo do Artigo 17 do Regulamento sobre a Gestão da Síntese Profunda de Serviços de Informação da Internet, um logotipo explícito deverá ser adicionado ao conteúdo de síntese gerado de acordo com os seguintes requisitos.”
Entretanto, a proposta de regulamentação também exige que os metadados incorporados a um arquivo indiquem que ele foi gerado por IA, possibilitando a rotulagem desse conteúdo. Contudo, na ausência de metadados, caberá aos provedores de serviço analisar o conteúdo e rotulá-lo como tal, caso haja suspeita de que tenha sido gerado por IA.
As regras também se aplicam aos internautas chineses. Indivíduos que publicam conteúdo gerado por IA devem identificá-lo. Quando utilizam ferramentas de IA em outras plataformas, a lei proposta exige que forneçam suas informações pessoais, e a plataforma de geração de IA manterá um registro de suas atividades por seis meses.
Entretanto, a proposta também inclui a exigência de que a plataforma de mídia social compartilhe sua tecnologia de detecção de conteúdo de IA com terceiros, uma medida destinada a padronizar o processo e aprimorar a capacidade de detecção desse tipo de conteúdo.
As novas regras não são uma surpresa, visto que a moderação de conteúdo sempre foi uma parte crucial do uso da internet na China. No entanto, o foco no conteúdo gerado por IA parece ser mais relevante diante dos deepfakes e outros conteúdos gerados por IA que estão sendo usados por muitos para cometer fraudes e outras ilegalidades.
Diversas plataformas populares de mídia social fora da China, incluindo Facebook, Instagram e TikTok, já rotulam conteúdo gerado por IA como parte de sua moderação de conteúdo. No entanto, suas ferramentas de detecção não são perfeitas, visto que muitos conteúdos hiper-realistas ainda escapam das etiquetas de IA nessas plataformas
