Nueva York aprueba proyecto de ley para limitar desastres catastróficos causados ​​por mal funcionamiento de la IA

Los legisladores de Nueva York aprobaron un proyecto de ley para limitar los desastres causados ​​por la inteligencia artificial. Según el proyecto, el estado busca evitar que los modelos de IA creados por empresas como OpenAI, Google y Anthropic contribuyan a escenarios de desastre.

Según el proyecto de ley, estos escenarios incluyen la muerte o lesiones de más de 100 personas o más de mil millones de dólares en daños o pérdidas. El proyecto de ley, conocido como Ley RAISE, representa una victoria para los movimientos que promueven la seguridad de la IA. Estos movimientos han perdido fuerza en los últimos años, ya que Silicon Valley y la administración Trump han seguido priorizando la velocidad y la innovación.

Defensores de la seguridad, como el premio Nobel Geoffrey Hinton y el pionero de la investigación en IA Yoshua Bengio, respaldan la Ley RAISE. Si finalmente se promulga, establecería el primer conjunto de estándares de transparencia legalmente obligatorios para los principales laboratorios de inteligencia artificial en Estados Unidos.

Nueva York considera la Ley RAISE para limitar los desastres provocados por IA

La Ley RAISE tiene algunas de las mismas disposiciones y objetivos que el controvertido proyecto de ley de seguridad de la IA SB 1047 en California, que finalmente fue vetado.

Sin embargo, uno de los patrocinadores de la Ley RAISE, el senador estatal de Nueva York, Andrew Gounardes, mencionó en una entrevista que diseñó el proyecto de ley de manera que no obstaculizara la innovación entre las empresas emergentes ni los investigadores académicos, una crítica frecuente que enfrentó la SB 1047. "El margen para implementar medidas de seguridad se está reduciendo rápidamente dada la rápida evolución de esta tecnología", afirmó el senador Gounardes.

El senador también afirmó que la mayoría de las personas con amplio conocimiento en el sector de la IA también han reconocido estos riesgos, un avance que calificó de "alarmante". Mientras tanto, la Ley RAISE se encuentra en camino a la gobernadora de Nueva York, Kathy Hochul, donde podría promulgarla o devolverla para su enmienda. Otra opción sería vetar el proyecto de ley, lo cual es probable.

Si finalmente se promulga, la Ley RAISE exigirá a algunos de los laboratorios de IA más grandes del mundo que publiquen informes de seguridad sobre sus modelos de IA de vanguardia. El proyecto de ley también obliga a los laboratorios de IA a informar sobredentde seguridad relacionados con el comportamiento de los modelos de IA o con el robo de modelos por parte de actores maliciosos, si se producen.

Si las empresas tecnológicas no cumplen con estos estándares, la Ley RAISE faculta al fiscal general de Nueva York a imponerles sanciones civiles de hasta 30 millones de dólares.

La Ley RAISE busca regular los laboratorios de IA

La Ley RAISE se diseñó para regular a las empresas de IA más grandes del mundo, incluyendo las con sede en California, como OpenAI y Google, y las con sede en China, como DeepSeek y Alibaba. Los requisitos del proyecto de ley incluyen una cláusula obligatoria que se aplica a las empresas que utilizaron más de 100 millones de dólares en recursos informáticos para entrenar sus modelos de IA y está disponible para los residentesdentNueva York.

Aunque es similar a la SB 1047 en algunos aspectos, la Ley RAISE aborda algunos de los proyectos de ley de seguridad de IA anteriores.

Por ejemplo, ninguna cláusula exige que los desarrolladores de modelos de IA tengan un interruptor de seguridad en sus modelos ni responsabiliza a las empresas que entrenan sus modelos posteriormente por daños críticos. Sin embargo, el proyecto de ley de Nueva York ha recibido resistencia, según el copatrocinador de la Ley RAISE, el asambleísta estatal de Nueva York Alex Bores. Bores calificó la resistencia de poco sorprendente, pero añadió que la Ley RAISE no limitará en modo alguno la capacidad de desarrollo de las empresas tecnológicas.

“La ley NY RAISE es otro estúpido proyecto de ley de inteligencia artificial a nivel estatal que solo perjudicará a Estados Unidos en un momento en que nuestros adversarios están corriendo por delante”, dijo Anjney Midha, socio general de Andreessen Horowitz, en una publicación del viernes en X.

Andreessen Horowitz y la incubadora de empresas emergentes Y Combinator se opusieron ferozmente a la SB 1047. Además, el cofundador de Anthropic, Jack Clark, también compartió sus quejas sobre el alcance de la Ley RAISE, señalando que podría presentar riesgos para las empresas más pequeñas.