Índia vai tornar obrigatória a rotulagem de conteúdo gerado por IA em meio a preocupações com deepfakes

O governo da Índia apresentou um projeto de lei que obrigaria plataformas de inteligência artificial (IA) e mídias sociais a rotularem claramente o conteúdo gerado por IA. O Ministério da Eletrônica e Tecnologia da Informação (MeitY) pretende emendar as Diretrizes para Intermediários de Tecnologia da Informação e o Código de Ética da Mídia Digital de 2021 para incluir as novas defi.

De acordo com as regras preliminares anunciadas na quarta-feira pelo Ministério datrone Tecnologia da Informação (MeitY), as plataformas de IA e mídias sociais OpenAI, Meta, X e Google serão obrigadas a rotular de forma destacada os elementos visuais, de áudio e vídeos gerados por IA. 

As regras do MeitY (Ministério da Eletrônica e Tecnologia da Informação) exigirão que as empresas apliquem etiquetas que ocupem pelo menos 10% da área da imagem ou que cubram os primeiros 10% da duração de um clipe de áudio, caso sejam geradas por inteligência artificial.

O ministério afirmou que a política ajudará os órgãos reguladores na rastreabilidade e transparência dos metadados tracao público as mídias geradas por IA voltadas. Convidou as partes interessadas do setor e o público a apresentarem comentários até 6 de novembro, antes de finalizar sua aprovação e sancionar a lei.

Empresas de tecnologia e mídia são obrigadas a rotular conteúdo de IA na Índia

De acordo com as versões preliminares da estrutura proposta, os usuários de redes sociais também terão que declarar se algum conteúdo que publicarem foi gerado ou alterado usando ferramentas de IA. 

As alterações defiinformações geradas por IA como conteúdo “criado, gerado, modificado ou alterado artificialmente ou algoritmicamente usando um recurso de computador, de forma que tais informações pareçam razoavelmente autênticas ou verdadeiras”

Dhruv Garg, sócio fundador do Indian Governance and Policy Project, afirmou que as regras são “uma das primeiras tentativas explícitas em nível global de prescrever um padrão de visibilidade quantificável” 

Se aprovada, conjecturou Garg, a medida exigiria que empresas de IA e plataformas de conteúdo criassem ferramentas automatizadas de rotulagem para detectar e marcar conteúdo sintético no momento da criação, antes que ele seja acessado pelo público.

Processos judiciais de Bollywood fazem parte de apelos pela regulamentação de deepfakes

A proposta preliminar da Índia surge em meio a diversos processos judiciais relacionados a deepfakes em tribunais indianos. No início deste mês, os atores de Bollywood Abhishek Bachchan e Aishwarya Rai Bachchan entraram com uma ação em um tribunal de Nova Délhi para bloquear e remover vídeos gerados por inteligência artificial que supostamente "violavam sua imagem e propriedade intelectual"

O casal, que busca uma indenização de quase meio milhão de dólares, também alegou que os treinadores de IA do YouTube usaram ilegalmente conteúdo público para gerar mídia de IA com suas imagens. 

Autoridades indianas citaram os casos como prova de que tecnologias de IA não regulamentadas podem prejudicar reputações, distorcer eleições e corroer a confiança pública nos ecossistemas de informação digital. 

O Ministério da Tecnologia da Informação afirmou que seu novo projeto busca "incorporar mecanismos de segurança de transparência aos sistemas de IA antes que os riscos fiquem fora de controle"

As propostas regulatórias da Índia seguem leis semelhantes no bloco da União Europeia, que finalizou sua Lei de IA, exigindo rótulos de transparência para mídias sintéticas. A China também introduziu padrões obrigatórios de marca d'água para imagens e textos gerados por IA no ano passado.

Aumento do investimento em IA na Índia

A proposta de rotulagem surge num momento em que a Índia vivencia um aumento significativo nos investimentos em inteligência artificial. Segundo o Ministério da Eletrônica e Tecnologia da Informação (MeitY), o país ultrapassou a marca de US$ 20 bilhões em compromissos de investimento acumulados e novos em IA em 2025.

O CEO da OpenAI, Sam Altman, afirmou no início deste ano que a Índia é o segundo maior mercado da empresa em número de usuários. Estimativas da Spherical Insights também mostram que os investimentos do setor privado atingiram US$ 11,1 bilhões, enquanto o financiamento público por meio de programas governamentais alcançou US$ 12,3 bilhões em agosto.

Grande parte desse crescimento é impulsionado pelo centro de IA de US$ 15 bilhões do Google, em construção em Visakhapatnam, Andhra Pradesh. Anunciado durante o evento Bharat AI Shakti em outubro, o complexo será o maior centro de IA do Google fora dos Estados Unidos, Cryptopolitan conforme relatado. 

O Google mencionou que o centro de dados abrigará poder computacional em escala de gigawatts, nova infraestrutura de energia renovável, um gateway de dados submarino e conectividade de fibra óptica doméstica.

A missão IndiaAI do governo, implementada pelo MeitY e pelo Centro de Inovação IndiaAI, já alocou mais de 38.000 GPUs para acesso em todo o país a preços subsidiados. 

A IndiaAI aprovou 30 projetos de desenvolvimento de aplicativos até meados de 2025, todos voltados para IA responsável e para a solução de problemas dentro de sua jurisdição, como resposta a desastres, planejamento urbano e saúde pública.