Un proyecto de ley del Senado convertiría la seguridad de la IA de vanguardia en una obligación legal, no en una promesa

Según Reuters.

Para las principales empresas de IA, esto transformará los estándares de seguridad, que pasan de ser un esfuerzo mayoritariamente voluntario a una obligación legal. Una cuestión de mercado más amplia es si las regulaciones más estrictas fomentarán la confianza entre consumidores e inversores o simplemente fortalecerán a las pocas empresas que pueden permitírselas.

De los compromisos voluntarios a un “deber de diligencia”

Según Reuters, la propuesta busca establecer lo que se denomina un “deber de diligencia” para los desarrolladores de modelos de IA de vanguardia. Se están considerando diversas estipulaciones para este fin. La propuesta incluye requisitos para: que los desarrolladores diseñen modelos de IA que minimicen los riesgos catastróficos; el derecho reservado del gobierno estadounidense a bloquear modelos de IA inseguros; apelaciones judiciales contra decisiones gubernamentales; y la participación de laboratorios nacionales y socios gubernamentales en las pruebas de IA. Es posible que esta propuesta prevalezca sobre algunas leyes estatales vigentes que regulan los mismos temas.

Según Reuters, las empresas tecnológicas estadounidenses dedicadas al desarrollo de inteligencia artificial de vanguardia son Google (Alphabet), Anthropic y OpenAI.

En las conversaciones participan el líder de la mayoría del Senado, John Thune, el presidente del Comité de Comercio, Ted Cruz, y la senadora Amy Klobuchar, con la participación también de la senadora Maria Cantwell.

Klobuchar declaró a Reuters que su objetivo es:

“la supervisión gubernamental de los mayores riesgos que plantean los modelos de IA”

Según explicó, esa supervisión debería incluir la obligación de que los desarrolladores trabajen con expertos del gobierno para verificar y probar los modelos avanzados.

Cruz ha presentado una propuesta similar que señala algunas de las peores posibilidades de la IA de vanguardia. En una publicación en X, Cruz dijo que está colaborando con Klobuchar y Thune para:

“abordar los riesgos catastróficos que implican amenazas biológicas o nucleares”

Estas preocupaciones explican por qué los negociadores están concentrando sus esfuerzos en los modelos más funcionales en lugar de exigir las mismas disposiciones a toda la industria de la IA.

Otra consideración importante es si las regulaciones federales deberían prevalecer sobre algunas de las restricciones estatales. Este enfoque es generalmente coherente con el marco legislativo de IA de la administración Trump, que sostiene que un conjunto desordenado de leyes estatales obstaculizará la experiencia en el desarrollo de la tecnología de IA en Estados Unidos y aboga, en cambio, por un marco nacional más uniforme.

Por qué los legisladores dejaron de tratar los riesgos como teóricos

Los legisladores están respondiendo no solo a situaciones teóricas, sino también adentde agentes de IA que actúan por su cuenta y penetran en sistemas externos, junto con las preocupaciones expresadas por investigadores que trabajan en las principales empresas del sector.

La IAPP indicó que las negociaciones fueron motivadas por la dimisión de Jacob Coxon, antiguo investigador de Anthropic, y su preocupación por una carrera por el desarrollo de una IA con capacidad de auto-mejora.

Las exigencias aumentan en el Capitolio. El senador Josh Hawley investiga el papel de OpenAI en el ciberataque Hugging Face que tuvo lugar en julio, mientras que el senador Bernie Sanders trabaja en un proyecto de ley destinado a frenar el desarrollo de la superinteligencia, según informa IAPP.

OpenAI también aboga por una legislación federal de obligado cumplimiento. En un artículo de política publicado el 9 de septiembre, Chris Lehane, director de Asuntos Globales, pidió lo siguiente:

“Regulación nacional obligatoria de seguridad de la IA basada en capacidades.”

Esto sitúa a cierta parte de la industria y al Congreso del mismo lado en una cuestión crucial sobre si las medidas de protección voluntarias siguen siendo suficientes.

Europa ya regula sus modelos más riesgosos

Estados Unidos no se adentrará en terreno desconocido. La Ley de IA de la Unión Europea ha impuesto nuevas responsabilidades a los proveedores de modelos de IA de propósito general que presentan un posible riesgo sistémico. Estas obligaciones abarcan la evaluación de modelos, la gestión de riesgos,dent y cuestiones relacionadas con la ciberseguridad.

Cualquier modelo que supere el umbral de potencia de cálculo de 10²⁵ FLOP se considerará potencialmente sistémico. Sin embargo, la Comisión Europea tiene derecho a clasificar de forma similar un modelo de menor rendimiento basándose en otros criterios, como sus capacidades o efectos.

Los costes de cumplimiento normativo podrían favorecer a los laboratorios más grandes

Lo que está en juego financieramente es enorme. Según Goldman Sachs Research, se estima que la inversión global en IA alcanzará aproximadamente 1 billón de dólares en 2026, de los cuales 581 mil millones corresponden a Estados Unidos.

Los nuevos requisitos de pruebas, legales y de documentación podrían afectar los cronogramas de lanzamiento de modelos, los presupuestos de infraestructura, las valoraciones y el momento de las OPV. Estos nuevos requisitos también podrían beneficiar a las empresas más grandes, ya que las más pequeñas podrían no ser capaces de asumir los costos.

Esta tensión ya se percibe en el mercado de capitales. Según Cryptopolitan, David Sacks solicitó la suspensión de la salida a bolsa de Anthropic hasta que se verificaran las acusaciones de seguridad formuladas por Coxon. Los inversores de Anthropic debatieron sobre la valoración de aproximadamente 2 billones de dólares, lo que convirtió la seguridad de los modelos fronterizos en un tema de preocupación no solo para los reguladores, sino también para los inversores.

Sin embargo, el avance del proyecto de ley es incierto. Según Reuters, la Cámara de Representantes solo sesionará durante una semana en preparación para las elecciones de mitad de mandato del 3 de noviembre, mientras que se espera que los senadores permanezcan en sesión durante tres semanas. Incluso si las partes involucradas llegan a un acuerdo durante las negociaciones, los pocos días legislativos restantes podrían representar el principal obstáculo para la aprobación del proyecto de ley.