El Parlamento Europeo aprueba una ley histórica sobre Inteligencia Artificial

La Unión Europea ha dado un paso significativo hacia la regulación del campo en rápida evolución de la inteligencia artificial (IA) al dar la aprobación final al Acta de Inteligencia Artificial, una legislación innovadora que tiene como objetivo establecer un marco integral para el desarrollo y uso de sistemas de IA dentro del bloque de 27 naciones.

El Acta de IA, que ha estado en elaboración durante cinco años, fue aprobada abrumadoramente por los miembros del Parlamento Europeo, marcando un momento crucial en la búsqueda de garantizar que la tecnología de IA se desarrolle y despliegue de manera responsable y centrada en el ser humano.

Un faro global

Se espera que el Acta de Inteligencia Artificial sirva como un faro global para otros gobiernos que luchan con el desafío de regular la tecnología de IA. Dragos Tudorache, un legislador rumano que fue co-líder de las negociaciones del Parlamento sobre el proyecto de ley, enfatizó la importancia de la legislación, afirmando: “El Acta de IA ha impulsado el futuro de la IA en una dirección centrada en el ser humano, en una dirección donde los humanos están en control de la tecnología y donde esta – la tecnología – nos ayuda a aprovechar nuevos descubrimientos, crecimiento económico, progreso social y desbloquear el potencial humano.”

Enfoque basado en el riesgo

El Acta de IA adopta un enfoque basado en el riesgo para regular los sistemas de IA, con el nivel de escrutinio aumentando proporcionalmente a los riesgos potenciales que plantea la tecnología. Los sistemas de bajo riesgo, como los sistemas de recomendación de contenido o los filtros de spam, enfrentarán reglas más ligeras, requiriendo principalmente transparencia sobre el uso de la IA.

Por otro lado, las aplicaciones de alto riesgo de la IA, incluidos los dispositivos médicos y los sistemas de infraestructura crítica, enfrentarán requisitos más estrictos, como el uso de datos de alta calidad y la provisión de información clara a los usuarios.

Ciertos usos de la IA considerados como un riesgo inaceptable están prohibidos outright bajo la nueva legislación. Estos incluyen sistemas de puntuación social que gobiernan el comportamiento humano, algunos tipos de policía predictiva y sistemas de reconocimiento de emociones en escuelas y lugares de trabajo. Además, la ley prohíbe a las fuerzas del orden usar sistemas de “identificación biométrica” remota impulsados por IA en espacios públicos, excepto en casos de crímenes graves como secuestros o terrorismo.

La regulación también aborda el asombroso aumento de los modelos de IA de propósito general, como ChatGPT de OpenAI, introduciendo disposiciones para su supervisión. Los desarrolladores de estos modelos deberán proporcionar resúmenes detallados de los datos utilizados para el entrenamiento, seguir la ley de derechos de autor de la UE y etiquetar los deepfakes generados por IA como manipulados artificialmente.

Abordando los riesgos sistémicos

Reconociendo el potencial de que los modelos de IA poderosos planteen “riesgos sistémicos”, el Acta de IA impone un escrutinio adicional a los sistemas más grandes y avanzados, incluidos GPT4 de OpenAI y Gemini de Google. Las empresas que proporcionan estos sistemas necesitarán evaluar y mitigar riesgos, informar incidentes graves, implementar medidas de ciberseguridad y divulgar datos de consumo de energía.

Las preocupaciones de la UE provienen del potencial de que estos poderosos sistemas de IA causen accidentes graves, sean mal utilizados para ciberataques o difundan sesgos dañinos a través de numerosas aplicaciones, afectando a un gran número de personas.

Si bien el Acta de IA tiene como objetivo establecer un marco para el desarrollo responsable de la IA, también busca promover la innovación dentro de la UE. Las grandes empresas tecnológicas han apoyado generalmente la necesidad de regulación mientras hacen cabildeo para asegurar que las reglas funcionen a su favor.

El CEO de OpenAI, Sam Altman, inicialmente causó revuelo al sugerir que la compañía podría retirarse de Europa si no puede cumplir con el Acta de IA, pero luego se retractó, afirmando que no había planes de irse.

A medida que el mundo lucha con el rápido avance de la tecnología de IA, el Acta de Inteligencia Artificial de la Unión Europea representa un esfuerzo pionero para encontrar un equilibrio entre fomentar la innovación y abordar los riesgos potenciales y desafíos planteados por esta tecnología transformadora.