La Ley de Inteligencia Artificial de Europa recibe aprobación final con multas de hasta 38 millones de dólares 

La Unión Europea aprobó el martes la versión final de su tan esperada ley de Inteligencia Artificial (IA), convirtiéndose en la primera gran potencia económica en introducir reglas integrales para la incipiente industria. 

Las nuevas reglas, destinadas a restringir el uso público de IA considerada de alto riesgo, como los deepfakes y el software de reconocimiento facial, se aplicarán a todas las empresas que implementen dichas aplicaciones en los 27 estados miembros de la UE.

En conjunto, el bloque de la UE representa aproximadamente el 20% de la economía mundial. Las empresas de IA que incumplan la nueva ley se enfrentarán a multas de hasta 35 millones de euros [38 millones de dólares] o el 7% de sus ingresos globales anuales, según el Consejo de la UE.

Lea también: OpenAI elimina ChatGPT Voice tras la polémica con Scarlett Johansson

Nueva legislación busca una "IA segura"

“La aprobación de la Ley de IA supone un hito importante para la Unión Europea”, declaró Mathieu Michel, secretario de Estado belga para la digitalización y la protección de la privacidad, en un comunicado.

Con la Ley de IA, Europa destaca la importancia de la confianza, la transparencia y la rendición de cuentas a la hora de tratar con nuevas tecnologías, garantizando al mismo tiempo que esta tecnología en rápida evolución pueda florecer e impulsar la innovación europea.

Mathieu Michel

Las tres ramas de poder de la UE —la Comisión, el Parlamento y el Consejo— tuvieron que acordar la versión final de la Ley. La Comisión Europea y el Parlamento Europeo ya habían aprobado la ley, y el Consejo Europeo dio el acuerdo final el 22 de mayo.

La Ley de IA describe diferentes categorías de riesgo para el uso de la inteligencia artificial, que van desde "riesgo bajo" hasta "riesgo alto" e "riesgo inaceptable". La categorización se basa en el potencial de los sistemas para perjudicar a los consumidores.

Las aplicaciones de inteligencia artificial que se consideran una amenaza a los derechos individuales, como el software de reconocimiento facial en lugares públicos y el puntaje social (una práctica que asigna puntajes a las personas, ya sea para préstamos o vivienda, en función de su comportamiento) serán prohibidas por completo.

La categoría de menor riesgo se refiere a la inteligencia artificial utilizada en videojuegos o filtros de spam. Entre los casos de uso sensibles de "alto riesgo" que se permitirán se incluyen la gestión de fronteras, la educación y el reclutamiento.

Las empresas que implementen estas tecnologías deberán divulgar más información sobre los datos utilizados para entrenar sus sistemas. Según la UE, su Parlamento estará facultado para imponer multas a las empresas que infrinjan la ley de IA por un valor de 38 millones de dólares, o el 7 % de su facturación global anual.

#TTE | 🇪🇺Los ministros de telecomunicaciones aprobaron hoy la ley de inteligencia artificial🤖

También debatieron sobre la aplicación de las normas de la UE en el ámbito digital y aprobaron conclusiones sobre la política digital de la UE y sobre ciberseguridad.

Lee los resultados principales ➡️https://t.co/Q4eWvrgslw pic.twitter.com/Ayf6EF5NS9

— Consejo de la UE (@EUCouncil) 21 de mayo de 2024

La Ley de IA corre el riesgo de sofocar la inversión

Matthijs de Vries, fundador del ecosistema de datos de IA, Nuklai, dijo que las reglas están diseñadas para proteger la información personal, particularmente en sectores sensibles como la atención médica y las finanzas.

"Al garantizar que los sistemas de inteligencia artificial cumplan con estrictos protocolos de uso de datos, la Ley de IA ayuda a salvaguardar la privacidad y la seguridad del consumidor", dijo de Vries Cryptopolitan.

La divulgación de las prácticas de recopilación, procesamiento y uso de datos exigidas por la Ley de Datos de la UE ayuda a desmitificar con qué datos se entrena la IA y qué datos utiliza para formular sus declaraciones y conclusiones. Esto contribuye a mejorar la confianza, la verificabilidad y la fiabilidad de los sistemas de IA, añadió.

Existe la preocupación de que a las startups les resulte difícil cumplir con la Ley de IA. A los fundadores les preocupa que las medidas puedan perjudicar a las empresas más pequeñas y obstaculizar la inversión y la innovación, dejando a Europa aún más rezagada respecto a EE. UU. y China en la carrera de la IA.

En octubre, Cedric O, fundador de la startup francesa de IA Mistral, afirmó que la ley acabaría con su empresa. El empresario temía que la ley sometiera a un escrutinio excesivo a los grandes modelos de lenguaje, incluso si no se utilizaban en casos delicados como la contratación, según informó.

Jonas Andrulis, director ejecutivo de Aleph Alpha, la empresa alemana rival de OpenAI, afirmó que clasificar la "IA de propósito general", como los modelos de aprendizaje automático (LLM), como de alto riesgo podría tener consecuencias imprevistas. Peter Sarlin, director ejecutivo de Silo AI de Finlandia, se hizo eco de sus comentarios.

"Si generalizamos la tecnología de IA generativa y decimos que todos los casos de uso que utilizan transformadores generativos preentrenados (GPT) son de alto riesgo, entonces creo que también estaremos regulando muchos casos de uso que en realidad no son de alto riesgo", dijo Sarlin en ese momento.

Las «fábricas de IA» de la UE impulsarán la innovación

No solo los emprendedores han expresado su preocupación por la Ley de IA. Un análisis del Departamento de Estado de EE. UU. de octubre de 2023 advirtió que algunas normas de la ley se basaban en términos "vagos odefi", según Bloomberg.

El análisis indicó que la Ley beneficiaría a las empresas tecnológicas más grandes, con la capacidad financiera para entrenar modelos de IA y sistemas de aprendizaje automático. Añadió que es probable que las empresas más pequeñas sufran pérdidas.

Además, según una encuesta realizada en 2023 por la Iniciativa para la IA Aplicada a 14 fondos de capital riesgo europeos, es poco probable que inviertan en startups clasificadas como de alto riesgo por la Ley de IA. Once de los fondos afirmaron que eran menos propensos a invertir en empresas con una calificación de alto riesgo, y ocho indicaron que esto afectaría negativamente la valoración de la startup.

Lea también: Los principales chatbots de IA son "altamente vulnerables" a simples "jaibreaks", según un estudio.

A finales de enero, el bloque de la UE anunció una serie de medidas destinadas a impulsar la innovación de las empresas emergentes europeas que desarrollan lo que denomina IA "confiable" que "respeta los valores y las normas de la UE".

El sindicato dijo que las empresas tendrán “acceso privilegiado a las supercomputadoras” y que la UE construirá “fábricas de IA” para asegurarse de que la infraestructura necesaria esté disponible para que las nuevas empresas la compren y la actualicen.

No se espera que la Ley de IA de Europa entre en vigor hasta 2025.

Informes Cryptopolitan de Jeffrey Gogo