El gobierno de EE. UU. obliga a Anthropic a cerrar sus modelos de IA más potentes por temores de seguridad

Anthropic desactivó sus dos modelos de IA de mejor rendimiento el viernes 12 de junio tras una orden de control de exportaciones del Departamento de Comercio de EE. UU. Fue un caso inusual de un gobierno interfiriendo en la comercialización de tecnología de IA de vanguardia.

El secretario de Comercio de EE. UU., Howard Lutnick, ordenó al CEO de Anthropic, Dario Amodei, a las 5:21 p.m. ET del viernes, restringir el acceso a Claude Fable 5 y Claude Mythos 5, según el comunicado de Anthropic.

La directiva se aplicaba a todos los individuos extranjeros, independientemente de si estaban dentro o fuera de los Estados Unidos, incluidos los empleados nacidos en el extranjero de Anthropic.

Anthropic declaró que no podía hacer cumplir eficazmente las restricciones basadas en la nacionalidad y, por lo tanto, desactivó los modelos. Los otros modelos de Claude siguen estando disponibles.

El Departamento de Comercio se mueve contra los modelos más nuevos de Anthropic

La directiva siguió a una advertencia de una empresa no identificada sobre una técnica que podría eludir partes del sistema de seguridad de Fable 5, informó Axios, citando a un funcionario de la administración.

Anthropic había lanzado los dos modelos solo tres días antes, el 9 de junio. Fable 5 estaba disponible públicamente, mientras que Mythos 5 estaba limitado a socios seleccionados de ciberseguridad bajo el Proyecto Glasswing.

Antes de esto, la administración Trump había estado involucrada en conversaciones intentando persuadir a la empresa para que pospusiera su lanzamiento, pero Anthropic procedió de todos modos.

Un funcionario de la Casa Blanca dijo que consideraba importante mantener los modelos bloqueados mientras la nación fortalece la infraestructura de seguridad federal y dijo que cree que eso tomará semanas.

Bajo la directiva, cualquier parte que busque exportar, reexportar o transferir cualquiera de los modelos en EE. UU. necesitaría una licencia del Departamento de Comercio. Anthropic también tendría que solicitar licencias validadas individualmente. El incumplimiento podría acarrear multas y sanciones civiles, informó Axios.

Anthropic dice que el riesgo de jailbreak está exagerado

Anthropic se opuso a la directiva, diciendo que el jailbreak en cuestión era estrecho y no constituía un bypass universal de los sistemas de seguridad de los modelos.

La empresa describió la técnica como aquella que pide a un modelo que revise una base de código específica e identifique fallos de software. Anthropic dijo que revisó una demostración del método y encontró que solo revelaba vulnerabilidades menores previamente conocidas.

“Hemos encontrado que otros modelos disponibles públicamente también pueden descubrirlos sin requerir un bypass”, escribió Anthropic, nombrando a GPT-5.5 de OpenAI como un ejemplo.

Anthropic también dijo que había realizado miles de horas de pruebas de penetración (red-teaming) antes del lanzamiento con el gobierno de EE. UU., el Instituto de Seguridad de IA del Reino Unido y organizaciones privadas.

Esas pruebas no encontraron un jailbreak universal, dijo la empresa, lo que significa que no existe un único método que pueda derrotar ampliamente los controles de seguridad del modelo en muchas capacidades.

“No estamos de acuerdo en que el hallazgo de un posible jailbreak estrecho deba ser motivo para retirar un modelo comercial desplegado a cientos de millones de personas”, escribió Anthropic. “Si este estándar se aplicara en toda la industria, creemos que esencialmente detendría todos los nuevos despliegues de modelos para todos los proveedores de modelos de vanguardia.”

Fable 5 ya enfrentaba críticas

El cierre culminó una semana de lanzamiento turbulenta para Anthropic.

Fable 5 debutó el 9 de junio con filtros que enrutaban consultas sensibles en ciberseguridad, biología, química e investigación de IA a un modelo anterior, Claude Opus 4.8. Esos filtros fueron criticados casi inmediatamente por ser demasiado restrictivos.

Según un informe previo de Cryptopolitan, los usuarios dijeron que el modelo tuvo dificultades con preguntas básicas de biología que involucraban membranas celulares y vacunas de ARNm.

Otra controversia se centró en la tarjeta de sistema de 319 páginas de Anthropic, que decía que Fable 5 reduciría automáticamente la calidad de la salida para preguntas relacionadas con la investigación de IA de vanguardia sin advertir a los usuarios.

Anthropic cambió esa política el 10 de junio después de que los investigadores argumentaran que los salvaguardas ocultos concentrarían las capacidades de IA en un pequeño grupo de empresas. La empresa se disculpó y dijo que los futuros salvaguardas serían visibles para los usuarios.

Microsoft también restringió el uso de Fable 5 por parte de los empleados debido al requisito de retención de datos de 30 días de Anthropic para los modelos de clase Mythos, informó The Verge.

Bajo esa política, los prompts y las salidas se almacenan durante 30 días con fines de confianza y seguridad, mientras que el contenido marcado puede retenerse hasta por dos años.

Anthropic dice que está trabajando para revertir el cierre

Anthropic dijo que la acción del gobierno se basó en un malentendido y que está trabajando con los funcionarios para resolver el problema. La empresa dijo que proporcionaría más información dentro de las 24 horas.

El cierre llega en un momento crítico para Anthropic. La empresa presentó documentos confidenciales a principios de este mes para una oferta pública inicial (IPO) planificada en EE. UU. después de recaudar $65 mil millones con una valoración de $965 mil millones a finales del mes pasado, informó Reuters.

Anthropic ahora enfrenta presión en dos frentes: los reguladores cuestionan la seguridad de sus modelos más avanzados, mientras que los inversores apuestan por su capacidad para seguir creciendo en ingresos comerciales.

La cuenta oficial de Claude en X le dijo a los usuarios que las nuevas sesiones ahora usarán por defecto su modelo seleccionado o a Opus 4.8. Las sesiones existentes de Fable 5 finalizarán con un error, y se aconsejó a los desarrolladores que actualicen sus integraciones a otros modelos de Claude.