Governo Indiano Emite Aviso para Empresas de IA Antes das Eleições Gerais

O Ministério Indiano de Eletrônica e Tecnologia da Informação emitiu um aviso significativo para empresas que operam plataformas de Inteligência Artificial (IA) antes das eleições gerais agendadas para o final deste verão. O aviso visa principalmente empresas proprietárias de plataformas de IA generativa, incluindo gigantes da indústria como Google e OpenAI, instruíndo-as a garantir que seus serviços não produzam respostas que possam comprometer a integridade do processo eleitoral.

De acordo com o aviso, as empresas que fornecem plataformas de IA, particularmente aquelas que oferecem sistemas de IA ou Modelos de Linguagem de Grande Escala (LLMs) em teste ou não confiáveis para usuários indianos, são obrigadas a rotular a potencial falibilidade ou não confiabilidade da saída gerada. Este requisito visa informar os usuários sobre as limitações do conteúdo gerado por IA, garantindo transparência e responsabilidade.

Medidas regulatórias e intenção legislativa da Índia

O aviso serve como um precursor para possíveis ações legislativas para regular plataformas de IA na Índia. O Ministro de Estado para Eletrônica e TI, Rajeev Chandrasekhar, enfatizou que o aviso sinaliza a intenção do governo de introduzir efetivamente legislação para controlar plataformas de IA generativa. Chandrasekhar, candidato do Partido Bharatiya Janata (BJP) à Lok Sabha nas Eleições Gerais de 2024, indicou que o governo pode solicitar demonstrações das plataformas de IA e de sua arquitetura de consentimento das empresas.

As empresas receberam um prazo de 15 dias para apresentar um relatório de medidas tomadas em resposta ao aviso. Elas devem cumprir várias diretrizes, incluindo obter permissão explícita do Governo da Índia antes de implantar modelos de IA ou LLMs em teste ou não confiáveis. Além disso, as empresas devem implementar mecanismos, como pop-ups de consentimento, para informar os usuários sobre a potencial falibilidade da saída gerada por IA.

Identificação de desinformação e deepfakes

Para combater a disseminação de desinformação e deepfakes, o governo instruiu as empresas a rotularem as respostas geradas por IA com um identificador único permanente. Esta medida visa facilitar a identificação do originador de qualquer conteúdo de desinformação ou deepfake, aumentando a responsabilidade e a transparência nas plataformas online.

Além disso, o aviso determina que todos os intermediários e plataformas que utilizam modelos de IA devem garantir que seus recursos de computação não promovam viés, discriminação ou ameaças à integridade do processo eleitoral. O governo visa regular as tecnologias de IA regulando o processo eleitoral contra possíveis manipulações ou distorções.

O aviso do governo indiano às empresas de IA sublinha seu compromisso de regular plataformas de IA e garantir a integridade dos processos democráticos, especialmente antes das próximas eleições gerais. Ao implementar medidas de transparência e mecanismos de responsabilidade, o governo visa mitigar os riscos associados ao conteúdo gerado por IA e combater a disseminação de desinformação e deepfakes. À medida que as empresas se preparam para cumprir as diretrizes delineadas no aviso, espera-se que o cenário regulatório em torno das tecnologias de IA na Índia evolua, moldando o futuro da governança digital e da ética tecnológica no país.