China revela planos de limpar conteúdo de IA que distorce literatura clássica e ideologias

A China embarcou em uma repressão a alguns conteúdos gerados por IA devido ao medo de que possam minar e colocar em risco a literatura clássica chinesa e suas ideologias dominantes.

Isso também segue um aumento na IA generativa, particularmente a disseminação da cultura de memes, que, embora humorística, foi encontrada para desempenhar um grande papel na formação de ideias culturais.

Pequim argumenta que as adaptações da IA de seus dramas de televisão clássicos chineses e literatura são “altamente enganosas”. Alguns pais também concordam e estão preocupados que as piadas feitas por IA possam levar a uma perda de respeito pelos clássicos tradicionais.

China pede uma limpeza de piadas feitas por IA

De acordo com o SCMP, os memes foram citados como um dos “principais culpados” que as autoridades chinesas reconheceram como riscos para suas ideologias e cultura. Assim como os memes, clipes de vídeo editados principalmente para humor e tração nas redes sociais também se provaram parte dos desafios da China na regulação da IA.

O SCMP revelou que a agência que supervisiona a transmissão estatal – a Administração Nacional de Rádio e Televisão (NRTA) – emitiu na semana passada um aviso pedindo aos seus órgãos supervisores que “limpem” todos esses vídeos que usam IA para fazer caricaturas da cultura chinesa.

O órgão regulador de transmissão observou a tendência crescente de alterar clipes de vídeo de programas incluindo O Sonho do Pavilhão Vermelho e Jornada ao Oeste. Esses programas são baseados em romances que foram aclamados como algumas das maiores obras da literatura chinesa.

A NRTA acrescentou que essas piadas geradas por IA “buscam ganhar tráfego sem limites e desrespeitam a propriedade intelectual clássica.”

Ela acrescentou que esses vídeos também vão contra o espírito das obras originais e podem constituir violação de direitos autorais. De acordo com o órgão regulador de transmissão, os vídeos também desafiam as percepções culturais tradicionais.

O principal órgão de supervisão da internet do país – a Administração do Ciberespaço da China – também fez repetidamente chamadas para limpar o conteúdo de vídeo que pode ser prejudicial aos jovens.

Essas chamadas também se alinham com as campanhas em andamento da China para controlar a desinformação online, bem como limpar informações não adequadas ou contrárias aos valores tradicionais.

Plataformas de mídia social na China ainda carregam os vídeos implicados 

Caracterizados principalmente por humor e tom sarcástico, os vídeos remasterizados por IA ainda podem ser encontrados nas plataformas de mídia social chinesas. Alguns dos vídeos são claramente rotulados como gerados por IA, enquanto outros não são.

Em um dos vídeos mencionados, personagens do programa, Jornada ao Oeste, são vistos montando alegremente motocicletas em sua árdua jornada. O programa é baseado em um romance do século 16 sobre um monge budista em uma jornada para a Índia no século 7.

O advogado baseado em Pequim, Gu Yu, disse que, embora esses vídeos não tenham causado muito dano ao público, eles também podem influenciar pessoas não familiarizadas com as obras originais.

“Embora as novas tecnologias devam ser abordadas com um grau de tolerância para incentivar a inovação pública, também é crucial tomar medidas contra obras que distorcem os valores básicos.”

– Yu

No entanto, Yu destacou que a regulação de IA da China ainda está em uma “fase exploratória”, com regulação e legislação ficando para trás dos avanços tecnológicos. Yu também mantém que, sem precedentes legais suficientes, pode ser difícil criar leis abrangentes. Medidas são, portanto, introduzidas quando os problemas surgem.

Policar o conteúdo de IA pode ser um desafio para a China

De acordo com o SCMP, o aviso da NRTA é uma indicação clara de um dos desafios mais recentes que a economia asiática enfrenta na governança de IA.

O país está em uma situação difícil tentando equilibrar o uso da tecnologia para otimizar operações e impulsionar a economia, enquanto também tenta lidar com os impactos adversos da IA, como a disseminação de deepfakes e desinformação. Ele também precisa lidar com o manejo de seu impacto potencial na percepção pública.

Na China, a cultura tradicional é crítica para a filosofia de governança do Partido Comunista. Ela vê isso como parte de sua campanha de reconstrução cultural.

O país fez vários esforços para regular a tecnologia de IA, incluindo suas “Disposições Administrativas sobre Síntese Profunda em Serviços de Informação Baseados na Internet”, que foram implementadas em janeiro do ano passado. Isso exige a rotulagem de conteúdo que possa enganar ou confundir o público.

No ano passado, a China também tomou algumas medidas para regular os serviços de IA generativa e emitiu diretrizes para padrões de rotulagem de conteúdo multimídia.

Alguns cidadãos chineses apoiam a regulação do setor e a limpeza de vídeos de IA dos transmissores estatais. O pedido da NRTA para limpar os vídeos remasterizados por IA foi um tópico em alta na semana passada e ignited discussões na plataforma de mídia social Weibo microblog, atraindo mais de 43,4 milhões de visualizações e mais de 14.000 discussões.

Alguns argumentaram que, sem supervisão, esse conteúdo poderia levar a uma séria “poluição da informação”. Eles argumentaram que crianças pequenas no ensino fundamental que ainda não leram os Quatro Grandes Romances Clássicos Chineses já estão expostas a vídeos engraçados do Rei Macaco lutando com Jia Baoyu. O Rei Macaco e Jia Baoyu são os protagonistas de Jornada ao Oeste e O Sonho do Pavilhão Vermelho, respectivamente.

Outros comentaristas online têm opiniões diferentes, argumentando que os funcionários estão “supervisionando demais”, limitando a liberdade das pessoas de desfrutar de “vídeos de entretenimento.”