- La UE alcanza un acuerdo provisional sobre el Acta de IA tras negociaciones trilaterales que abordan 21 cuestiones, pero posibles lagunas legales generan preocupación por la supervisión corporativa.
- El Acta de IA introduce un enfoque basado en el riesgo, prohibiciones, transparencia para los modelos fundamentales, evaluación del impacto en los derechos fundamentales, multas, y la Oficina y el Consejo de IA. Sin embargo, persisten las preocupaciones sobre si las exenciones comprometen las medidas protectoras.
- Los funcionarios afirman haber logrado un equilibrio entre innovación y protección, pero los críticos sostienen que el Acta de IA impulsa a las startups europeas al liderazgo global en IA, lo que sugiere una agenda oculta de desregulación.
En una medida tomada el viernes por la noche, las instituciones de la Unión Europea alcanzaron un acuerdo provisional sobre la muy esperada Ley de IA tras intensas negociaciones en trilogos. Sin embargo, en medio de la celebración de este importante paso adelante, surgen preocupaciones sobre posibles lagunas que podrían transformar este hito regulatorio en un disfraz para la desregulación.
La Ley de IA, destinada a establecer un marco para el desarrollo y uso responsable de la inteligencia artificial, se espera que logre un equilibrio entre la innovación y la protección social. No obstante, las complejidades del acuerdo, especialmente las emergentes de las negociaciones de última hora, plantean preguntas sobre las verdaderas intenciones detrás de la aparentemente exhaustiva legislación.
Componentes clave de la Ley de IA
El principio fundamental de un enfoque basado en el riesgo, propuesto originalmente por la Comisión Europea, permanece intacto. Los sistemas de IA de «alto riesgo», que plantean amenazas para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el estado de derecho, están sujetos a requisitos específicos. Pero, la adición de condiciones de filtrado genera preocupaciones sobre posibles lagunas que podrían eximir a ciertas aplicaciones de alto riesgo.
La Ley de IA prohíbe los sistemas de IA que causan riesgos inaceptables, incluidos aquellos que manipulan el comportamiento humano, explotan vulnerabilidades y realizan raspado de imágenes faciales no dirigido. Aunque la prohibición es exhaustiva, las excepciones por razones de seguridad, como el reconocimiento de emociones en el lugar de trabajo, introducen ambigüedad y posibles lagunas.
Se introducen obligaciones de transparencia para los modelos base, especialmente los de «alto impacto» con riesgo sistémico. Normas más estrictas exigen evaluaciones de modelos, evaluaciones de riesgo sistémico, pruebas adversarias, medidas de ciberseguridad e informes de incidentes. Sin embargo, la dependencia de códigos de práctica hasta que se establezcan normas armonizadas de la UE puede crear incertidumbres en el cumplimiento.
La inclusión de una evaluación de impacto en derechos fundamentales (FRIA) aborda las preocupaciones sobre la vigilancia discriminatoria por parte del Estado y el uso de la IA en la aplicación de la ley. No obstante, las exenciones para las agencias de aplicación de la ley plantean preguntas sobre la eficacia de la FRIA para prevenir el despliegue dañino de herramientas de IA de alto riesgo.
Las violaciones de la Ley de IA conllevarán multas que oscilan entre los 35 millones de euros o el 7 % del volumen de negocios anual global y los 7,5 millones de euros o el 1,5 % del volumen de negocios para infracciones menores. Aunque las multas tienen como objetivo hacer cumplir el cumplimiento, se plantean preocupaciones sobre el posible elusión mediante «techos proporcionales», favoreciendo a las empresas más grandes y alentándolas a delegar proyectos de IA de riesgo en startups.
El establecimiento de una Oficina de IA y una Junta forma la estructura de gobernanza. La oficina dentro de la comisión supervisa los modelos avanzados de IA, mientras que la junta, compuesta por representantes de los Estados miembros, actúa como una plataforma de coordinación. La limitada inclusión de partes interesadas de la sociedad como expertos técnicos podría disminuir la voz de la sociedad civil en la configuración de las regulaciones de IA.
Lagunas y preocupaciones no exploradas en la Ley de IA
A pesar de las afirmaciones de figuras clave como Thierry Breton y otros que expresan confianza en el equilibrio entre innovación y protección, persisten las preocupaciones sobre posibles lagunas en la Ley de IA. En una rueda de prensa nocturna del viernes, los funcionarios reconocieron que las condiciones de filtrado y las excepciones podrían permitir que las aplicaciones de alto riesgo escapen al escrutinio. Cuestiones como la prohibición de los sistemas de identificación biométrica y el despliegue de herramientas de IA de alto riesgo en circunstancias urgentes plantean dudas sobre la eficacia de la ley.
La afirmación de Thierry Breton de que la Ley de IA trasciende ser un mero libro de reglas, funcionando como una plataforma para que las startups e investigadores de la UE tomen la delantera en la carrera global por la IA, implica una ambición inherente de establecer a la UE como una fuerza destacada en el campo de la inteligencia artificial. Los críticos argumentan que esto refleja un enfoque desregulador, priorizando el apoyo y el avance de las empresas de IA de la UE sobre una regulación estricta.
A medida que la Ley de IA se acerca a convertirse en realidad, el debate sobre su eficacia y posibles lagunas se intensifica. ¿Logrará la legislación realmente un equilibrio entre fomentar la innovación y salvaguardar la sociedad, o es una estrategia de desregulación cuidadosamente disfrazada? Los próximos meses revelarán el verdadero impacto de la Ley de IA en el panorama de la IA dentro de la Unión Europea y más allá.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
