El gobierno indio emite una advertencia a las empresas de IA con anterioridad a las elecciones generales

El Ministerio de Tecnología Electrónica y de Información de la India ha emitido una advertencia significativa a las empresas que operan plataformas de Inteligencia Artificial (IA) con anterioridad a las elecciones generales programadas para finales de este verano. La advertencia se dirige principalmente a las empresas propietarias de plataformas de IA generativa, incluidos gigantes de la industria como Google y OpenAI, instruyéndoles para que aseguren que sus servicios no produzcan respuestas que puedan comprometer la integridad del proceso electoral.

Según la advertencia, las empresas que proporcionan plataformas de IA, particularmente aquellas que ofrecen sistemas de IA o Modelos de Lenguaje Grande (LLM) en prueba o poco fiables a los usuarios indios, están obligadas a etiquetar la posible falibilidad o falta de fiabilidad de la salida generada. Este requisito tiene como objetivo informar a los usuarios sobre las limitaciones del contenido generado por IA, garantizando la transparencia y la responsabilidad.

Medidas regulatorias e intención legislativa de la India

La advertencia sirve como precursora de posibles acciones legislativas para regular las plataformas de IA en la India. El Ministro de Estado de Electrónica y TI, Rajeev Chandrasekhar, enfatizó que la advertencia señala la intención del gobierno de introducir efectivamente legislación para controlar las plataformas de IA generativa. Chandrasekhar, candidato del Partido Bharatiya Janata (BJP) a la Lok Sabha para las Elecciones Generales de 2024, indicó que el gobierno podría solicitar demostraciones de las plataformas de IA y su arquitectura de consentimiento a las empresas.

Se ha dado a las empresas un plazo de 15 días para presentar un informe de medidas adoptadas en respuesta a la advertencia. Deben cumplir con varias directivas, incluida la obtención de permiso explícito del Gobierno de la India antes de desplegar modelos de IA o LLM en prueba o poco fiables. Además, las empresas deben implementar mecanismos, como ventanas emergentes de consentimiento, para informar a los usuarios sobre la posible falibilidad de la salida generada por IA.

Identificación de desinformación y deepfakes

Para combatir la propagación de desinformación y deepfakes, el gobierno ha instruido a las empresas a etiquetar las respuestas generadas por IA con un identificador único permanente. Esta medida tiene como facilitar la identificación del origen de cualquier contenido de desinformación o deepfake, mejorando la responsabilidad y la transparencia en las plataformas en línea.

Además, la advertencia obliga a todos los intermediarios y plataformas que utilizan modelos de IA a asegurar que sus recursos informáticos no promuevan el sesgo, la discriminación o las amenazas a la integridad del proceso electoral. El gobierno tiene como objetivo regular las tecnologías de IA regulando el proceso electoral frente a posibles manipulaciones o distorsiones.

La advertencia del gobierno indio a las empresas de IA subraya su compromiso de regular las plataformas de IA y garantizar la integridad de los procesos democráticos, especialmente con anterioridad a las próximas elecciones generales. Al implementar medidas de transparencia y mecanismos de responsabilidad, el gobierno tiene como objetivo mitigar los riesgos asociados con el contenido generado por IA y combatir la propagación de desinformación y deepfakes. A medida que las empresas se preparan para cumplir con las directivas descritas en la advertencia, se espera que el panorama regulatorio en torno a las tecnologías de IA en la India evolucione, dando forma al futuro de la gobernanza digital y la ética tecnológica en el país.