Governo indiano emite comunicado para empresas de IA antes das eleições gerais

O Ministério da Eletrônica e Tecnologia da Informação da Índiatronum importante alerta para empresas que operam plataformas de Inteligência Artificial (IA) em preparação para as eleições gerais previstas para o final deste verão. O alerta visa principalmente empresas proprietárias de plataformas de IA generativa, incluindo gigantes do setor como Google e OpenAI, instruindo-as a garantir que seus serviços não produzam respostas que possam comprometer a integridade do processo eleitoral.

De acordo com a recomendação, as empresas que fornecem plataformas de IA, especialmente aquelas que oferecem sistemas de IA em fase de testes ou não confiáveis, ou Modelos de Linguagem de Grande Porte (LLMs, na sigla em inglês) para usuários indianos, são obrigadas a rotular a potencial falibilidade ou falta de confiabilidade dos resultados gerados. Esse requisito visa informar os usuários sobre as limitações do conteúdo gerado por IA, garantindo transparência e responsabilidade.

Medidas regulatórias e intenção legislativa da Índia

O comunicado serve como um precursor de potenciais ações legislativas para regulamentar as plataformas de IA na Índia. O Ministro de Estado datrone Tecnologia da Informação, Rajeev Chandrasekhar, enfatizou que o comunicado sinaliza a intenção do governo de efetivamente introduzir legislação para controlar as plataformas de IA generativa. Chandrasekhar, candidato do Partido Bharatiya Janata (BJP) para a Lok Sabha nas eleições gerais de 2024, indicou que o governo pode solicitar demonstrações das plataformas de IA e de sua arquitetura de consentimento às empresas.

As empresas têm um prazo de 15 dias para apresentar um relatório das medidas tomadas em resposta ao alerta. Elas devem cumprir diversas diretrizes, incluindo a obtenção de autorização expressa do Governo da Índia antes de implementar modelos de IA ou LLMs (Modelos de Aprendizagem Baseados em Aprendizagem) em fase de testes ou não confiáveis. Além disso, as empresas devem implementar mecanismos, como pop-ups de consentimento, para informar os usuários sobre a possível falibilidade dos resultados gerados por IA.

denta disseminação de desinformação e deepfakes.

Para combater a disseminação de desinformação e deepfakes, o governo instruiu as empresas a rotularem as respostas geradas por IA com umdentúnico permanente. Essa medida visa facilitar adentdo autor de qualquer conteúdo de desinformação ou deepfake, aumentando a responsabilidade e a transparência nas plataformas online.

Além disso, a recomendação exige que todos os intermediários e plataformas que utilizam modelos de IA garantam que seus recursos computacionais não promovam viés, discriminação ou ameaças à integridade do processo eleitoral. O governo visa regulamentar as tecnologias de IA, protegendo o processo eleitoral de possíveis manipulações ou distorções.

O comunicado do governo indiano às empresas de IA reforça seu compromisso com a regulamentação das plataformas de IA e com a garantia da integridade dos processos democráticos, especialmente às vésperas das eleições gerais. Ao implementar medidas de transparência e mecanismos de responsabilização, o governo visa mitigar os riscos associados ao conteúdo gerado por IA e combater a disseminação de desinformação e deepfakes. À medida que as empresas se preparam para cumprir as diretrizes descritas no comunicado, espera-se que o cenário regulatório em torno das tecnologias de IA na Índia evolua, moldando o futuro da governança digital e da ética tecnológica no país.