Nueva York aprueba un proyecto de ley para limitar desastres catastróficos causados por fallos de IA
Owotunse Adebayo
3 min de lectura
- Nueva York ha aprobado una ley para limitar a laboratorios de IA como OpenAI, Google y Anthropic en la contribución a escenarios de desastre.
- La ley está en camino al gobernador del estado de Nueva York, quien tendrá la última palabra.
- Los laboratorios de IA expresan sus quejas sobre la ley, señalando que podría representar riesgos para las empresas más pequeñas.
Los legisladores de Nueva York han aprobado un proyecto de ley para limitar los desastres causados por la inteligencia artificial. Según el proyecto de ley, el estado quiere evitar que los modelos de IA creados por empresas como OpenAI, Google y Anthropic contribuyan a escenarios de desastre.
Según el proyecto de ley, estos escenarios incluyen la muerte o lesión de más de 100 personas o más de $1 mil millones en daños o pérdidas. El proyecto de ley, conocido como la Ley RAISE, representa una victoria para los movimientos que impulsan la seguridad de la IA. Los movimientos han perdido fuerza en los últimos años a medida que Silicon Valley y la administración de Trump han continuado priorizando la velocidad y la innovación.
Los defensores de la seguridad, incluido el laureado con el Nobel Geoffrey Hinton y el pionero de la investigación en IA Yoshua Bengio, están detrás de la Ley RAISE. Si finalmente se firma como ley, el proyecto de ley establecería el primer conjunto de estándares de transparencia legalmente obligatorios para los principales laboratorios de inteligencia artificial en los Estados Unidos de América.
Nueva York considera la Ley RAISE para limitar desastres impulsados por IA
La Ley RAISE tiene algunas de las mismas disposiciones y objetivos que la controvertida ley de seguridad de IA SB 1047 en California, que finalmente fue vetada.
Sin embargo, un copatrocinador de la Ley RAISE, el senador del Estado de Nueva York Andrew Gounardes, mencionó en una entrevista que diseñó el proyecto de ley de manera que no ahogue la innovación entre las startups o los investigadores académicos, una crítica común que enfrentó la SB 1047. “La ventana para establecer salvaguardas se está reduciendo rápidamente dado lo rápido que evoluciona esta tecnología”, dijo el senador Gounardes.
El senador también dijo que la mayoría de las personas bien versadas en el sector de la IA también han reconocido estos riesgos, un desarrollo que llamó “alarmante”. Mientras tanto, la Ley RAISE ahora está en camino al escritorio del gobernador de Nueva York, Kathy Hochul, donde podría firmarla como ley o devolverla para enmiendas. Otra opción sería que ella vetara el proyecto de ley, lo cual es probable.
Si finalmente se firma como ley, la Ley RAISE requerirá que algunos de los mayores laboratorios de IA del mundo publiquen informes de seguridad y protección sobre sus modelos de IA de vanguardia. El proyecto de ley también obliga a los laboratorios de IA a informar sobre incidentes de seguridad relacionados con el comportamiento de los modelos de IA o actores maliciosos que roben un modelo de IA, si ocurre.
Si las empresas tecnológicas no cumplen con estos estándares, la Ley RAISE faculta al fiscal general de Nueva York para imponer sanciones civiles de hasta $30 millones contra ellas.
La Ley RAISE busca regular los laboratorios de IA
La Ley RAISE fue diseñada para regular a las mayores empresas de IA a nivel mundial, incluidas las basadas en California como OpenAI y Google, y las basadas en China, como DeepSeek y Alibaba. Los requisitos del proyecto de ley incluyen una cláusula obligatoria que se aplica a las empresas que utilizaron más de $100 millones en recursos de computación para entrenar sus modelos de IA y están disponibles para residentes en Nueva York.
Aunque similar a la SB 1047 en algunos aspectos, la Ley RAISE aborda algunos de los proyectos de ley anteriores de seguridad de IA.
Por ejemplo, ninguna cláusula requiere que los desarrolladores de modelos de IA tengan un interruptor de apagado en sus modelos, ni tampoco responsabiliza a las empresas que post-entrenan sus modelos por daños críticos. Sin embargo, ha habido resistencia al proyecto de ley de Nueva York, según el copatrocinador de la Ley RAISE, el miembro de la Asamblea del Estado de Nueva York Alex Bores. Llamó a la resistencia predecible, pero agregó que la Ley RAISE no limitará el poder de desarrollo de las empresas tecnológicas en absoluto.
“La Ley RAISE de NY es otro estúpido, estúpido proyecto de ley de IA a nivel estatal que solo dañará a EE. UU. en un momento en que nuestros adversarios van por delante”, dijo el socio general de Andreessen Horowitz, Anjney Midha, en una publicación del viernes en X.
Andreessen Horowitz y la incubadora de startups Y Combinator se opusieron ferozmente a la SB 1047. Además, el cofundador de Anthropic, Jack Clark, también compartió sus quejas sobre lo amplio que es el alcance de la Ley RAISE, señalando que podría presentar riesgos para las empresas más pequeñas.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Owotunse Adebayo
Adebayo es un escritor con cuatro años de experiencia en el ámbito de las criptomonedas. Se graduó de la Universidad de Lagos, donde estudió Planificación Urbana y Regional. Adebayo ha trabajado en Tokenhell y CryptoTicker, redactando noticias sobre criptomonedas y Fintech. Actualmente es colaborador de noticias en Cryptopolitan.
