La UE prohíbe toda la tecnología de IA considerada de «riesgo inaceptable»
- La UE acaba de prohibir la tecnología de IA que considera demasiado arriesgada, como los sistemas para la puntuación social, la vigilancia en tiempo real y la predicción del crimen.
- Las empresas que utilizan IA prohibida en la UE enfrentan multas de hasta 35 millones de euros o el 7% de sus ingresos globales, sin importar dónde estén radicadas.
- Grandes firmas como Google y OpenAI prometieron cumplir desde el inicio, pero resistencias como Meta y Apple no firmaron el pacto voluntario.
A partir de hoy, la Unión Europea ha cerrado la puerta a los sistemas de IA que han etiquetado como «de riesgo inaceptable». Eso no está sujeto a debate.
Los reguladores ahora tienen el poder de eliminar líneas enteras de productos de la noche a la mañana. El primer plazo de cumplimiento bajo la Ley de IA de la UE siempre iba a comenzar el 2 de febrero, y el mensaje del bloque es que si rompes estas reglas, pagarás 35 millones de euros (alrededor de 36 millones de dólares) o el 7% de tus ingresos globales, lo que sea más doloroso.
El Parlamento Europeo aprobó la Ley de IA el pasado marzo después de años de supuesta afinación. Para el 1 de agosto, la ley ya estaba en vigor. Ahora, las empresas de todos los sectores simplemente deben adaptarse a ella.
¿Qué hay en la lista negra de la UE?
La lista negra de la UE cubre algunas zonas oscuras de la IA. Olvídate de los sistemas que califican a las personas basándose en su comportamiento o reputación, como ese sistema de crédito social distópico que gestiona China. Eso ha desaparecido. La IA diseñada para manipular las decisiones de las personas mediante trucos engañosos o mensajes subliminales también está prohibida.
Además, la IA que perfila vulnerabilidades, digamos, aprovechándose de la edad o discapacidad de alguien para manipularlos, está fuera de la mesa. Y aquí hay uno para los libros de historia: la UE hizo ilegal predecir si alguien cometerá un crimen basándose en sus rasgos faciales.
Si tu IA está extrayendo datos biométricos para hacer suposiciones sobre género, orientación sexual o creencias políticas, empaca y vete. La monitorización biométrica en tiempo real para la aplicación de la ley también está prohibida a menos que cumpla condiciones altamente específicas, según la Ley de IA de la UE.
Eso significa que no hay escaneos faciales en estaciones de metro o eventos públicos solo para capturar «sospechosos potenciales». La IA de seguimiento de emociones en escuelas y lugares de trabajo también fue eliminada, excepto en casos raros vinculados al tratamiento médico o la seguridad.
Estas prohibiciones se aplican a todas las empresas que operan dentro de las fronteras de la UE. La sede no importa: gigantes de Silicon Valley, startups asiáticas de IA, laboratorios europeos, ponga el nombre que quiera. Si usa un sistema restringido, la UE dice que va a pagar la multa.
Las grandes corporaciones se dividen en cuanto al cumplimiento
En septiembre de 2024, más de 100 empresas tecnológicas (incluidas Google, OpenAI y Amazon) firmaron un compromiso voluntario llamado Pacto de IA de la UE, donde supuestamente prometieron limpiar sus proyectos de IA temprano, antes de los plazos de la Ley, y también mapear qué sistemas podrían caer bajo las categorías de alto riesgo o prohibidas.
Curiosamente, Meta, Apple, y la empresa francesa de IA Mistral se negaron rotundamente a hacerlo, argumentando que las regulaciones son demasiado rígidas y obstaculizarían la innovación en octubre de 2024.
Aún así, saltarse el Pacto no exime a nadie de seguir la ley, incluso aunque la mayoría de estas empresas tecnológicas ni siquiera estén tocando las categorías prohibidas, hablando realista.
Pero según la Ley de IA de la UE, las agencias de aplicación de la ley aún pueden usar sistemas de IA que recopilan datos biométricos en público, aunque necesitarán la aprobación de los órganos rectores con antelación. La exención se aplica a emergencias como rastrear personas desaparecidas o detener ataques inminentes, y a la IA de detección de emociones en escuelas y oficinas, pero solo cuando esté justificada por preocupaciones médicas o de seguridad.
Pero la Ley de IA no opera de forma aislada. El Reglamento General de Protección de Datos (GDPR), la Directiva de Seguridad de las Redes y la Información (NIS2) y el Acta de Resiliencia Operativa Digital (DORA) tienen todos requisitos superpuestos para el manejo de datos y la seguridad.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Jai Hamid
Jai Hamid ha estado cubriendo criptomonedas, mercados bursátiles, tecnología, la economía global y los eventos geopolíticos que afectan a los mercados durante los últimos 6 años. Ha trabajado con publicaciones centradas en blockchain, incluidas AMB Crypto, Coin Edition y CryptoTale, en análisis de mercado, grandes empresas, regulación y tendencias macroeconómicas. Se graduó en la London School of Journalism y ha compartido tres veces sus conocimientos sobre el mercado de criptomonedas en una de las principales cadenas de televisión de África.
