En un avance significativo para impulsar la innovación en el sector de la inteligencia artificial (IA), el gobierno ha revisado su asesoramiento sobre la comercialización de GenAI y de herramientas y funciones basadas en IA. Esta medida, bien recibida por los actores del sector, supone un alivio, ya que las empresas ya no tendrán que solicitar la autorización explícita del gobierno antes de lanzar sus productos.
La industria aplaude las revisiones
La recomendación modificada, emitida el 15 de marzo, ha eliminado notablemente el requisito de que las empresas cumplan con el plazo estricto de 15 días. Esta modificación ha sido aprobada por expertos del sector, quienes habían expresado su preocupación por el posible obstáculo al ritmo de innovación que suponían las regulaciones iniciales.
Rohit Kumar, socio fundador de The Quantum Hub, consultora de políticas públicas, elogió la capacidad de respuesta del gobierno a las opiniones de la industria. Enfatizó que la recomendación anterior podría haber frenado significativamente la comercialización y frenado el ecosistema de innovación. Kumar también señaló que la eliminación de la necesidad de presentar un informe de las medidas adoptadas indicaba que la recomendación no era meramente sugerente, sino que tenía fuerza directiva.
Revisiones clave y continuidad en los requisitos
Según la recomendación revisada, las plataformas e intermediarios equipados con capacidades de IA y GenAI, como Google y OpenAI , aún deben obtener la aprobación gubernamental antes de ofrecer servicios que permitan la creación de deepfakes. Además, deben seguir etiquetándose como "en pruebas" y obtener el consentimiento explícito de los usuarios, informándoles sobre posibles errores inherentes a la tecnología.
La directiva se extiende a todas las plataformas e intermediarios que utilizan grandes modelos lingüísticos (LLM) y modelos fundacionales. Además, los servicios tienen la obligación de no producir contenido que comprometa la integridad del proceso electoral o infrinja la legislación india, lo que pone de relieve la preocupación por la desinformación y los deepfakes que influyen en los resultados electorales.
Énfasis en las garantías procesales
Si bien reconocen los avances logrados con la revisión consultiva, algunos ejecutivos destacan la importancia de las garantías procesales en la formulación de políticas. Abogan por un enfoque consultivo para evitar reacciones impulsivas antedenty garantizar la formulación de regulaciones bien fundamentadas.
Los ejecutivos, que hablaron bajo condición de anonimato, destacaron la necesidad de que los intermediarios actúen con cautela durante períodos de alto riesgo, como las elecciones. Apoyaron la iniciativa del gobierno de instar a los intermediarios a ser precavidos antes de publicar modelos no probados y etiquetar adecuadamente los resultados.
El aviso original surgió a raíz de diversas controversias, incluyendo las críticas a la plataforma de inteligencia artificial Gemini de Google por las respuestas generadas sobre el primer ministro Modi. También se han observado casos de "alucinaciones" en modelos GenAI, como Krutrim, la plataforma beta GenAI de Ola, lo que ha provocado la intervención regulatoria.
