- Los legisladores en Bruselas alcanzaron un acuerdo provisional sobre la innovadora Ley de Inteligencia Artificial de la Unión Europea, estableciendo normas integrales para regular la IA, lo que podría establecer un referente global.
- La Ley de IA impone obligaciones a los sistemas de inteligencia artificial general de alto impacto, asegurando evaluaciones de riesgos, pruebas adversarias, informes de incidentes y transparencia, con multas potenciales por incumplimiento.
- A pesar del acuerdo provisional, las negociaciones continúan, con debates divisivos sobre la regulación del monitoreo biométrico en tiempo real y los modelos de inteligencia artificial general de base, como ChatGPT de OpenAI.
En un desarrollo pivotal, los legisladores de la Unión Europea en Bruselas han logrado un avance significativo al alcanzar un “acuerdo provisional” sobre la largamente esperada Ley de Inteligencia Artificial (Ley de IA). Esta legislación histórica está preparada para establecer un conjunto integral de reglas que regularán la IA dentro de la UE, sirviendo potencialmente como precedente para otras naciones que navegan por el paisaje en evolución de las regulaciones de inteligencia artificial.
La Ley de IA de la UE ha sido el tema de intensas negociaciones, con la última ronda culminando en un acuerdo provisional que establece obligaciones estrictas para los sistemas de IA de propósito general (GPAI) de alto impacto. Estas obligaciones incluyen puntos de referencia cruciales como evaluaciones de riesgo, pruebas adversarias, informes de incidentes y una mandato de transparencia, que requiere documentos técnicos y resúmenes detallados de los datos de entrenamiento, una demanda que algunas entidades de IA, incluido el creador de ChatGPT OpenAI, han resistido previamente.
Obligaciones para sistemas de IA de alto impacto
Dentro de este marco legislativo, los negociadores han delineado cuidadosamente las obligaciones que los sistemas GPAI de alto impacto deben cumplir. Estas obligaciones abarcan un espectro de puntos de referencia, incluidas evaluaciones de riesgo rigurosas y pruebas adversarias, asegurando la fiabilidad y el uso ético de estos sistemas de IA avanzados. Además, el mandato de transparencia requiere la creación de documentos técnicos y resúmenes detallados sobre el contenido utilizado para el entrenamiento, un aspecto que tiene como objetivo abordar las preocupaciones sobre la responsabilidad y la divulgación.
Además, la Ley de IA introduce una disposición destacada que otorga a los ciudadanos el derecho a presentar quejas sobre sistemas de IA, especialmente aquellos categorizados como «de alto riesgo» y con un impacto directo en los derechos individuales. Este énfasis en el empoderamiento ciudadano refleja un compromiso con la rendición de cuentas y la promoción de la transparencia en el despliegue de tecnologías de IA.
Aunque el comunicado de prensa no entra en detalles granulares sobre los puntos de referencia, sí describe un marco para imponer multas en caso de incumplimiento de las normas. Las multas, que varían según la naturaleza y el tamaño de la empresa, oscilan entre 35 millones de euros o el 7 % de los ingresos mundiales, hasta 7,5 millones de euros o el 1,5 % de los ingresos mundiales.
Aplicaciones de IA prohibidas y negociaciones en curso
La Ley de IA también prohíbe explícitamente varias aplicaciones de la tecnología de IA, abordando preocupaciones relacionadas con la privacidad, la discriminación y la manipulación. Las actividades prohibidas incluyen el raspado de imágenes faciales de las grabaciones de CCTV, la categorización basada en características sensibles como la raza u orientación sexual, el reconocimiento de emociones en entornos laborales o escolares y la creación de sistemas de puntuación social. Asimismo, los sistemas de IA que manipulan el comportamiento humano para eludir la libre voluntad o que explotan vulnerabilidades están estrictamente prohibidos.
A pesar del acuerdo provisional, las negociaciones continúan en frentes cruciales, incluida la regulación del monitoreo biométrico en tiempo real, específicamente el reconocimiento facial, y la gobernanza de modelos de IA fundamentales de propósito general como ChatGPT de OpenAI. Estas discusiones han estado marcadas por debates divisivos, lo que ha provocado retrasos en el anuncio del acuerdo provisional. Cabe destacar que los legisladores de la UE han abogado por una prohibición total de la IA en la vigilancia biométrica, mientras que los gobiernos buscan excepciones para aplicaciones militares, de aplicación de la ley y de seguridad nacional. Las propuestas tardías de Francia, Alemania e Italia, destinadas a permitir la autorregulación de los modelos de IA generativa, han contribuido aún más a las deliberaciones en curso.
A medida que continúan las negociaciones, se espera que la finalización de un acuerdo integral se produzca antes de fin de año. Sin embargo, es probable que la implementación de la Ley de IA se posponga hasta 2025 como mínimo, lo que permitirá deliberaciones adicionales y votaciones por las comisiones de Mercado Interior y Libertades Civiles del Parlamento.
Moldeando el mañana con la Ley de IA de la UE
A medida que Europa da un paso pionero hacia regulaciones integrales de IA, el acuerdo provisional sobre la Ley de IA plantea preguntas críticas sobre la trayectoria futura de la gobernanza de la IA. ¿Cómo moldearán las negociaciones en curso el paisaje final de las regulaciones de IA dentro de la UE, y qué implicaciones globales podrían surgir de esta legislación innovadora? Las respuestas a estas preguntas son la clave para establecer un marco equilibrado y responsable para el despliegue de la IA, estableciendo un posible punto de referencia para las naciones que luchan con los desafíos y oportunidades presentados por la inteligencia artificial.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
