Governo altera diretrizes sobre IA e flexibiliza regulamentações para participantes do setor

Em um desenvolvimento significativo com o objetivo de fomentar a inovação no setor de inteligência artificial (IA), o governo revisou suas recomendações sobre o lançamento de GenAI– ferramentas e recursos baseados em IA – no mercado. A medida, bem recebida pelos participantes do setor, representa um alívio, pois as empresas não precisarão mais obter a aprovação explícita do governo antes de lançar seus produtos.

A indústria aplaude as revisões

A versão revisada do comunicado, emitida em 15 de março, removeu, notavelmente, a exigência de que as empresas cumprissem as normas dentro de um prazo estrito de 15 dias. Essa alteração foi aprovada por especialistas do setor que haviam manifestado preocupação com o potencial entraves ao ritmo da inovação causado pelas regulamentações iniciais.

Rohit Kumar, sócio fundador da The Quantum Hub, uma empresa de consultoria em políticas públicas, elogiou a receptividade do governo ao feedback da indústria. Ele enfatizou que a recomendação anterior poderia ter prejudicado significativamente a velocidade de lançamento no mercado e sufocado o ecossistema de inovação. Kumar também destacou que a eliminação da necessidade de apresentar um relatório de ações tomadas indica que a recomendação não era meramente sugestiva, mas tinha peso como diretriz.

Principais revisões e continuidade dos requisitos

De acordo com a nova recomendação, plataformas e intermediários equipados com recursos de IA e GenAI, como Google e OpenAI, ainda precisam obter aprovação governamental antes de oferecer serviços que permitam a criação de deepfakes. Além disso, devem continuar se identificando como "em fase de testes" e obter o consentimento explícito dos usuários, informando-os sobre possíveis erros inerentes à tecnologia.

A diretiva abrange todas as plataformas e intermediários que utilizam modelos de linguagem abrangentes (LLMs) e modelos fundamentais. Além disso, os serviços são obrigados a não produzir conteúdo que comprometa a integridade do processo eleitoral ou viole a legislação indiana, ressaltando as preocupações com a desinformação e os deepfakes que podem influenciar os resultados das eleições.

Ênfase nas salvaguardas processuais

Embora reconheçam o progresso positivo com a revisão das diretrizes, alguns executivos enfatizam a importância de salvaguardas processuais na formulação de políticas. Eles defendem uma abordagem consultiva para evitar reações impulsivas adente garantir a formulação de regulamentações bem fundamentadas.

Executivos, falando sob condição de anonimato, destacaram a necessidade de os intermediários agirem com cautela durante períodos de alto risco, como eleições. Eles apoiaram a iniciativa do governo de instar os intermediários a serem vigilantes antes de divulgarem modelos não testados e a rotularem adequadamente os resultados.

O alerta inicial foi motivado por diversas controvérsias, incluindo as críticas recebidas pela plataforma de IA Gemini, do Google, pelas respostas geradas sobre o primeiro-ministro Modi. Também foram observados casos de "alucinações" por modelos da GenAI, como o caso da plataforma beta da GenAI, Krutrim, da Ola, o que levou à intervenção regulatória.