El proyecto de ley del Senado convertiría la seguridad de la IA de frontera en un deber legal, no en una promesa

Los negociadores del Senado de EE. UU. están considerando una legislación que requeriría legalmente a los desarrolladores de los modelos de IA más avanzados que se protejan contra daños catastróficos y podría dar al gobierno federal el poder de bloquear lanzamientos inseguros, según Reuters.

Para las principales empresas de IA, esto transformará los estándares de seguridad de un esfuerzo principalmente voluntario a un deber legal. Una pregunta más amplia del mercado es si las regulaciones más estrictas fomentarán la confianza entre los consumidores e inversores o simplemente reforzarán a las pocas empresas que pueden permitírselas.

De promesas voluntarias a un «deber de cuidado»

Según Reuters, la propuesta busca crear lo que se denomina un «deber de cuidado» para los desarrolladores de modelos de IA de frontera. Varios requisitos están bajo consideración para este propósito. La propuesta incluye requisitos para: que los desarrolladores diseñen modelos de IA que minimicen los riesgos catastróficos; el derecho reservado del gobierno de EE. UU. para bloquear modelos de IA inseguros; apelaciones judiciales contra decisiones gubernamentales; y la participación de laboratorios nacionales y socios gubernamentales en las pruebas de IA. Esta propuesta posiblemente tendrá prioridad sobre algunas leyes estatales existentes que rigen los mismos temas.

Según Reuters, las empresas tecnológicas de EE. UU. involucradas en el desarrollo de IA de frontera son Google (Alphabet), Anthropic y OpenAI.

Las conversaciones involucran al Líder de la Mayoría en el Senado, John Thune, al Presidente del Comité de Comercio, Ted Cruz, y a la Senadora Amy Klobuchar, con la Senadora Maria Cantwell también involucrada.

Klobuchar le dijo a Reuters que su objetivo es:

«la supervisión gubernamental de los mayores riesgos planteados por los modelos de IA»

Esa supervisión, dijo, debería incluir requerir que los desarrolladores trabajen con expertos gubernamentales para verificar y probar modelos avanzados.

Cruz ha presentado una propuesta similar que indica algunas de las peores posibilidades de la IA de frontera. En un post en X, Cruz dijo que está colaborando con Klobuchar y Thune para:

«abordar riesgos catastróficos que involucren amenazas biológicas o nucleares»

Estas preocupaciones explican por qué los negociadores están concentrando sus esfuerzos en los modelos más funcionales en lugar de requerir las mismas disposiciones de toda la industria de IA.

Otra consideración importante es si las regulaciones federales deben prevalecer sobre algunas de las restricciones a nivel estatal. Este enfoque es generalmente consistente con el marco legislativo de IA de la administración Trump, que mantiene que un conjunto desordenado de leyes estatales obstaculizará la experiencia en el desarrollo de la tecnología de IA en América y llama en su lugar a un marco nacional más consistente.

Por qué los legisladores dejaron de tratar los riesgos como teóricos

Los legisladores están respondiendo no solo a situaciones teóricas sino también a incidentes de agentes de IA actuando por su cuenta y penetrando sistemas externos, junto con las preocupaciones expresadas por investigadores que trabajan en las principales empresas de la industria.

La IAPP indicó que las negociaciones fueron provocadas por la renuncia de Jacob Coxon, ex investigador de Anthropic, y sus preocupaciones sobre una carrera por la IA de auto-mejora.

Las demandas están aumentando en Capitol Hill. El Senador Josh Hawley investiga el papel de OpenAI en el ciberataque de Hugging Face que tuvo lugar en julio, mientras que el Senador Bernie Sanders trabaja en un proyecto de ley destinado a pausar el desarrollo de la superinteligencia, según lo reportado en IAPP.

OpenAI también aboga por legislación federal aplicable. En un artículo de política publicado el 9 de septiembre, Chris Lehane, Oficial Principal de Asuntos Globales, llamó a:

«regulación nacional obligatoria de seguridad de IA basada en capacidades».

Esto pone a cierta parte de la industria y al Congreso en el mismo lado de una pregunta crucial sobre si las salvaguardas voluntarias siguen siendo suficientes.

Europa ya regula sus modelos más riesgosos

Estados Unidos no estará navegando en aguas inexploradas. La Ley de IA de la Unión Europea ha impuesto nuevas responsabilidades a los proveedores de modelos de IA de propósito general que tienen la posibilidad de riesgo sistémico. Los deberes tratan con la evaluación del modelo, la gestión de riesgos, la notificación de incidentes, así como problemas relacionados con la ciberseguridad.

Cualquier modelo por encima del umbral de poder de cómputo de 10^25 FLOP se considerará de naturaleza potencialmente sistémica. Sin embargo, la Comisión Europea tiene el derecho de clasificar un modelo de menor rendimiento de manera similar basándose en otros criterios como capacidades o efectos.

Los costos de cumplimiento podrían favorecer a los laboratorios más grandes

Las apuestas financieras son enormes. Según Goldman Sachs Research, se espera que la inversión global estimada en IA alcance aproximadamente 1 billón de dólares en 2026, lo que incluye 581 mil millones de dólares en EE. UU.

Nuevos requisitos de prueba, legales y documentación pueden afectar los cronogramas de lanzamiento de modelos, presupuestos de infraestructura, valoraciones y cronogramas de IPOs. Los nuevos requisitos también pueden proporcionar una ventaja a los jugadores más grandes ya que las empresas más pequeñas pueden no poder soportar los costos.

Esta tensión ya se ve en el mercado de capitales. Según Cryptopolitan, David Sacks llamó a la suspensión de la oferta pública inicial (IPO) de Anthropic hasta que se verificaran las alegaciones de seguridad hechas por Coxon. Los inversores de Anthropic tuvieron una conversación sobre la valoración de aproximadamente 2 billones de dólares, lo que convirtió la seguridad de los modelos de frontera en un tema de preocupación no solo para los reguladores sino también para los inversores.

El progreso del proyecto de ley, sin embargo, es incierto. Según lo reportado por Reuters, la Cámara solo estará en sesión durante una semana en preparación para las elecciones intermedias del 3 de noviembre, mientras que se espera que los Senadores permanezcan durante tres semanas. Incluso si las partes involucradas llegan a un acuerdo durante las negociaciones, los días legislativos limitados restantes muy bien podrían servir como el próximo obstáculo principal en la aprobación del proyecto de ley.