El Acto de IA de la UE despierta preocupaciones sobre los derechos humanos

La Unión Europea (UE) fue recientemente testigo de un debate contencioso entre sus estados miembros, la Comisión Europea y el Parlamento Europeo sobre el histórico Acto de Inteligencia Artificial (AI Act). Esta legislación pivotal, que tiene como objetivo regular el despliegue de tecnologías de IA dentro de la UE, ha atraído tanto elogios como críticas.

Mher Hakobyan, Asesor de Defensa sobre Inteligencia Artificial, expresó su decepción por lo que percibe como una oportunidad perdida para salvaguardar los derechos humanos y la privacidad.

Uno de los puntos centrales de controversia dentro del Acto de IA es la regulación de la tecnología de reconocimiento facial. Los defensores de una regulación estricta de la IA habían solicitado inicialmente una prohibición incondicional del reconocimiento facial en vivo. Sin embargo, la versión final de la legislación no cumple con esta demanda, permitiendo un uso limitado de la tecnología de reconocimiento facial bajo ciertas salvaguardas.

Mher Hakobyan sostiene que este compromiso es una gran decepción, ya que argumenta que ninguna salvaguarda puede prevenir eficazmente las posibles violaciones de derechos humanos asociadas con la tecnología de reconocimiento facial. Afirma que el fracaso en imponer una prohibición completa de la tecnología de reconocimiento facial representa una oportunidad perdida para proteger los derechos humanos, el espacio cívico y el estado de derecho en la UE, todos los cuales, según cree, ya están bajo amenaza.

Exportación de tecnologías de IA dañinas

Otro aspecto contencioso del Acto de IA es la regulación de las exportaciones de tecnología de IA. Algunos críticos argumentan que la legislación no va lo suficientemente lejos para prevenir la exportación de tecnologías de IA que podrían usarse para fines dañinos, como la puntuación social. El Acto de IA permite a las empresas europeas exportar tecnologías de IA que pueden considerarse ilegales dentro de la UE, creando lo que Hakobyan ve como una peligrosa doble estándar.

Hakobyan sugiere que permitir que las empresas europeas obtengan beneficios de tecnologías reconocidas como inaceptablemente dañinas para los derechos humanos en sus estados de origen es preocupante. Cree que se deberían haber tomado medidas más fuertes para asegurar que las tecnologías de IA desarrolladas dentro de la UE no se utilicen para violar los derechos humanos en otras partes del mundo.

A pesar de la naturaleza contenciosa del debate, se ha alcanzado un acuerdo político provisional de alto nivel sobre el Acto de IA. Sin embargo, antes de que pueda convertirse en ley, se llevarán a cabo intensas reuniones técnicas para finalizar el texto de la legislación.

El llamado de Amnistía Internacional por protecciones más fuertes

Amnistía Internacional, junto con una coalición de organizaciones de la sociedad civil liderada por la Red de Derechos Digitales Europeos (EDRi), ha estado abogando por una regulación robusta de la IA en la UE que priorice y proteja los derechos humanos. Su llamado para una prohibición integral del uso, desarrollo, producción, venta y exportación de la tecnología de reconocimiento facial para fines de identificación ha sido un punto focal de sus esfuerzos de defensa.

El resultado del Acto de IA refleja los desafíos de encontrar un equilibrio entre fomentar la innovación y proteger los derechos fundamentales en el campo en rápida evolución de la inteligencia artificial. La decisión de permitir un uso limitado de la tecnología de reconocimiento facial bajo salvaguardas reconoce los beneficios potenciales de la IA mientras intenta mitigar sus riesgos. Sin embargo, críticos como Mher Hakobyan argumentan que estas salvaguardas son insuficientes y que una prohibición total de ciertas aplicaciones de IA es necesaria para prevenir abusos de derechos humanos.

El debate en torno al Acto de IA también destaca las complejidades de regular las tecnologías de IA a escala global. Mientras la UE toma medidas para regular la IA dentro de sus fronteras, la exportación de tecnologías de IA sigue siendo un tema contencioso. Encontrar un equilibrio entre apoyar la innovación europea y prevenir el mal uso de las herramientas de IA en el extranjero es un desafío con el que los responsables políticos continúan luchando.