El Gobierno de la India emite un aviso a las empresas de inteligencia artificial antes de las elecciones generales

El Ministerio de Electrónica y Tecnologías de la Información de la Indiatronemitido una importante advertencia a las empresas que operan plataformas de Inteligencia Artificial (IA) de cara a las elecciones generales previstas para finales de este verano. La advertencia se dirige principalmente a las empresas propietarias de plataformas de IA generativa, incluidos gigantes del sector como Google y OpenAI, y les insta a garantizar que sus servicios no generen respuestas que puedan comprometer la integridad del proceso electoral.

Según la normativa, las empresas que proporcionan plataformas de IA, en particular aquellas que ofrecen sistemas de IA poco probados o poco fiables, o modelos de lenguaje a gran escala (LLM), a usuarios indios, están obligadas a indicar la posible falibilidad o falta de fiabilidad de los resultados generados. Este requisito tiene como objetivo informar a los usuarios sobre las limitaciones del contenido generado por IA, garantizando la transparencia y la responsabilidad.

Medidas regulatorias e intención legislativa de la India

El comunicado sirve como paso previo a posibles acciones legislativas para regular las plataformas de IA en India. El Ministro de Estado detrony Tecnologías de la Información, Rajeev Chandrasekhar, enfatizó que el comunicado señala la intención del gobierno de introducir legislación efectiva para controlar las plataformas de IA generativa. Chandrasekhar, candidato del Partido Bharatiya Janata (BJP) al Lok Sabha para las elecciones generales de 2024, indicó que el gobierno podría solicitar a las empresas demostraciones de las plataformas de IA y su arquitectura de consentimiento.

Las empresas disponen de un plazo de 15 días para presentar un informe sobre las medidas adoptadas en respuesta a la advertencia. Deben cumplir con varias directivas, entre ellas, obtener la autorización expresa del Gobierno de la India antes de implementar modelos de IA o LLM que no estén en fase de prueba o que sean poco fiables. Asimismo, deben implementar mecanismos, como ventanas emergentes de consentimiento, para informar a los usuarios sobre la posible falibilidad de los resultados generados por la IA.

dentla desinformación y los deepfakes.

Para combatir la propagación de desinformación y deepfakes, el gobierno ha ordenado a las empresas que etiqueten las respuestas generadas por IA con undentúnico permanente. Esta medida busca facilitar ladentdel autor de cualquier contenido de desinformación o deepfake, mejorando la rendición de cuentas y la transparencia en las plataformas en línea.

Además, la normativa exige que todos los intermediarios y plataformas que utilicen modelos de IA garanticen que sus recursos informáticos no fomenten sesgos, discriminación ni amenacen la integridad del proceso electoral. El gobierno pretende regular las tecnologías de IA protegiendo el proceso electoral de posibles manipulaciones o distorsiones.

La recomendación del gobierno indio a las empresas de IA subraya su compromiso con la regulación de las plataformas de IA y la garantía de la integridad de los procesos democráticos, especialmente de cara a las próximas elecciones generales. Mediante la implementación de medidas de transparencia y mecanismos de rendición de cuentas, el gobierno busca mitigar los riesgos asociados al contenido generado por IA y combatir la propagación de desinformación y deepfakes. A medida que las empresas se preparan para cumplir con las directivas descritas en la recomendación, se espera que el marco regulatorio en torno a las tecnologías de IA en India evolucione, configurando el futuro de la gobernanza digital y la ética tecnológica en el país.