Em um desenvolvimento significativo com o objetivo de fomentar a inovação no setor de inteligência artificial (IA), o governo revisou suas recomendações sobre o lançamento de GenAI – ferramentas e recursos baseados em IA – no mercado. A medida, bem recebida pelos participantes do setor, representa um alívio, pois as empresas não precisarão mais obter a aprovação explícita do governo antes de lançar seus produtos.
A indústria aplaude as revisões
A versão revisada do comunicado, emitida em 15 de março, removeu, notavelmente, a exigência de que as empresas cumprissem as normas dentro de um prazo estrito de 15 dias. Essa alteração foi aprovada por especialistas do setor que haviam manifestado preocupação com o potencial entraves ao ritmo da inovação causado pelas regulamentações iniciais.
Rohit Kumar, sócio fundador da The Quantum Hub, uma empresa de consultoria em políticas públicas, elogiou a receptividade do governo ao feedback da indústria. Ele enfatizou que a recomendação anterior poderia ter prejudicado significativamente a velocidade de lançamento no mercado e sufocado o ecossistema de inovação. Kumar também destacou que a eliminação da necessidade de apresentar um relatório de ações tomadas indica que a recomendação não era meramente sugestiva, mas tinha peso como diretriz.
Principais revisões e continuidade dos requisitos
De acordo com a nova recomendação, plataformas e intermediários equipados com recursos de IA e GenAI, como Google e OpenAI , ainda precisam obter aprovação governamental antes de oferecer serviços que permitam a criação de deepfakes. Além disso, devem continuar se identificando como "em fase de testes" e obter o consentimento explícito dos usuários, informando-os sobre possíveis erros inerentes à tecnologia.
A diretiva abrange todas as plataformas e intermediários que utilizam modelos de linguagem abrangentes (LLMs) e modelos fundamentais. Além disso, os serviços são obrigados a não produzir conteúdo que comprometa a integridade do processo eleitoral ou viole a legislação indiana, ressaltando as preocupações com a desinformação e os deepfakes que podem influenciar os resultados das eleições.
Ênfase nas salvaguardas processuais
Embora reconheçam o progresso positivo com a revisão das diretrizes, alguns executivos enfatizam a importância de salvaguardas processuais na formulação de políticas. Eles defendem uma abordagem consultiva para evitar reações impulsivas adente garantir a formulação de regulamentações bem fundamentadas.
Executivos, falando sob condição de anonimato, destacaram a necessidade de os intermediários agirem com cautela durante períodos de alto risco, como eleições. Eles apoiaram a iniciativa do governo de instar os intermediários a serem vigilantes antes de divulgarem modelos não testados e a rotularem adequadamente os resultados.
O alerta inicial foi motivado por diversas controvérsias, incluindo as críticas recebidas pela plataforma de IA Gemini, do Google, pelas respostas geradas sobre o primeiro-ministro Modi. Também foram observados casos de "alucinações" por modelos da GenAI, como o caso da plataforma beta da GenAI, Krutrim, da Ola, o que levou à intervenção regulatória.
