La Ley de IA de la UE genera preocupaciones sobre derechos humanos

La Unión Europea (UE) fue testigo recientemente de un polémico debate entre sus Estados miembros, la Comisión Europea y el Parlamento Europeo en torno a la histórica Ley de Inteligencia Artificial (IA). Esta legislación fundamental, cuyo objetivo es regular el despliegue de tecnologías de IA en la UE, ha suscitado tanto elogios como críticas. 

Mher Hakobyan, asesor de defensa de la inteligencia artificial, expresó su decepción por lo que percibe como una oportunidad perdida para salvaguardar los derechos humanos y la privacidad.

Uno de los principales puntos de controversia en la Ley de IA es la regulación de la tecnología de reconocimiento facial. Quienes abogan por una regulación estricta de la IA inicialmente solicitaron la prohibición incondicional del reconocimiento facial en vivo. Sin embargo, la versión final de la legislación no satisface esta demanda, permitiendo un uso limitado de la tecnología de reconocimiento facial bajo ciertas salvaguardias.

Mher Hakobyan sostiene que este acuerdo es una gran decepción, ya que argumenta que ninguna salvaguardia puede prevenir eficazmente las posibles violaciones de derechos humanos asociadas con la tecnología de reconocimiento facial. Afirma que no imponer una prohibición total de la tecnología de reconocimiento facial representa una oportunidad perdida para proteger los derechos humanos, el espacio cívico y el Estado de derecho en la UE, todos ellos, en su opinión, ya amenazados.

Exportación de tecnologías de IA dañinas

Otro aspecto polémico de la Ley de IA es la regulación de las exportaciones de tecnología de IA. Algunos críticos argumentan que la legislación no es lo suficientemente exhaustiva para prevenir la exportación de tecnologías de IA que podrían utilizarse con fines perjudiciales, como la calificación social. La Ley de IA permite a las empresas europeas exportar tecnologías de IA que podrían considerarse ilegales dentro de la UE, lo que crea lo que Hakobyan considera un peligroso doble rasero.

Akobian sugiere que es preocupante permitir que las empresas europeas se beneficien de tecnologías reconocidas como inadmisiblemente perjudiciales para los derechos humanos en sus países de origen. Considera que deberían haberse tomado medidastronpara garantizar que las tecnologías de IA desarrolladas en la UE no se utilicen para violar los derechos humanos en otras partes del mundo.

A pesar de la naturaleza polémica del debate, se ha alcanzado un acuerdo político provisional de alto nivel sobre la Ley de IA. Sin embargo, antes de que pueda convertirse en ley, se celebrarán intensas reuniones técnicas para finalizar el texto legislativo.

Llamamiento de Amnistía Internacional a unatronprotección

Amnistía Internacional, junto con una coalición de organizaciones de la sociedad civil liderada por la Red Europea de Derechos Digitales (EDRi), ha abogado por una sólida regulación de la IA en la UE que priorice y proteja los derechos humanos. Su petición de una prohibición total del uso, desarrollo, producción, venta y exportación de tecnología condentha sido un punto central de sus esfuerzos de incidencia.

El resultado de la Ley de IA refleja los desafíos de encontrar un equilibrio entre el fomento de la innovación y la protección de los derechos fundamentales en el campo de la inteligencia artificial, en rápida evolución. La decisión de permitir el uso limitado de la tecnología de reconocimiento facial bajo salvaguardias reconoce los beneficios potenciales de la IA, al tiempo que intenta mitigar sus riesgos. Sin embargo, críticos como Mher Hakobyan argumentan que estas salvaguardias son insuficientes y que es necesaria la prohibición total de ciertas aplicaciones de IA para prevenir violaciones de derechos humanos.

El debate en torno a la Ley de IA también pone de relieve las complejidades de regular las tecnologías de IA a escala global. Si bien la UE está tomando medidas para regular la IA dentro de sus fronteras, la exportación de tecnologías de IA sigue siendo un tema polémico. Lograr un equilibrio entre el apoyo a la innovación europea y la prevención del uso indebido de las herramientas de IA en el extranjero es un reto al que siguen lidiando los responsables políticos.