El gobierno estadounidense obliga a Anthropic a cerrar sus modelos de IA más potentes por temor a problemas de seguridad

Anthropic desactivó sus dos modelos de IA de mayor rendimiento el viernes 12 de junio tras una orden de control de exportaciones del Departamento de Comercio de Estados Unidos. Fue un caso inusual de interferencia gubernamental en la comercialización de tecnología de IA de vanguardia.

Según un comunicado de Anthropic, el secretario de Comercio de Estados Unidos, Howard Lutnick, ordenó al director ejecutivo de Anthropic, Dario Amodei, a las 17:21 (hora del este) del viernes que restringiera el acceso a Claude Fable 5 y Claude Mythos 5.

La directiva se aplicaba a todas las personas extranjeras, independientemente de si se encontraban dentro o fuera de los Estados Unidos, incluidos los propios empleados de Anthropic nacidos en el extranjero.

Anthropic declaró que no podía aplicar eficazmente las restricciones basadas en la nacionalidad y, por lo tanto, desactivó los modelos. Los demás modelos de Claude siguen estando disponibles.

El Departamento de Comercio toma medidas contra los modelos más recientes de Anthropic

La directiva surgió tras una advertencia de una empresa no identificada sobre una técnica que podría eludir partes del sistema de seguridad de Fable 5, según informó Axios, citando a un funcionario de la administración.

Anthropic había lanzado los dos modelos tan solo tres días antes, el 9 de junio. Fable 5 estaba disponible para el público en general, mientras que Mythos 5 estaba limitado a socios selectos de ciberseguridad en el marco del Proyecto Glasswing.

Anteriormente, la administración Trump había mantenido conversaciones para intentar persuadir a la empresa de que pospusiera su lanzamiento, pero Anthropic siguió adelante de todos modos.

Un funcionario de la Casa Blanca dijo que consideraban importante mantener a los modelos bajo llave mientras el país refuerza la infraestructura de seguridad federal, y añadió que cree que eso llevará semanas.

Según la directiva, cualquier parte que desee exportar, reexportar o transferir cualquiera de los dos modelos en Estados Unidos necesitará una licencia del Departamento de Comercio. Anthropic también deberá solicitar licencias validadas individualmente. El incumplimiento podría acarrear sanciones económicas y civiles, según informó Axios.

Anthropic afirma que el riesgo de fuga de la cárcel está exagerado

Anthropic rechazó la directiva, argumentando que el jailbreak en cuestión era limitado y no equivalía a una elusión universal de los sistemas de seguridad de los modelos.

La empresa describió la técnica como aquella que solicita a un modelo que revise un código fuente específico edentfallos de software. Anthropic afirmó haber revisado una demostración del método y haber comprobado que solo reveló vulnerabilidades menores previamente conocidas.

“Hemos descubierto que otros modelos disponibles públicamente también son capaces de detectarlos sin necesidad de un método alternativo”, escribió Anthropic, citando como ejemplo el GPT-5.5 de OpenAI.

Anthropic también afirmó haber realizado miles de horas de pruebas de estrés (red teaming) antes del lanzamiento, en colaboración con el gobierno estadounidense, el Instituto de Seguridad de la IA del Reino Unido y organizaciones privadas.

Según la compañía, esas pruebas no detectaron ninguna vulnerabilidad universal que permitiera eludir los controles de seguridad del modelo en múltiples funciones.

«No estamos de acuerdo en que el hallazgo de una posible vulnerabilidad limitada deba ser motivo para retirar un modelo comercial implementado para cientos de millones de personas», escribió Anthropic. «Si este criterio se aplicara a toda la industria, creemos que paralizaría prácticamente todas las implementaciones de nuevos modelos para todos los proveedores de modelos de vanguardia»

Fable 5 ya estaba recibiendo críticas

El cierre puso fin a una semana de lanzamiento turbulenta para Anthropic.

Fable 5 se lanzó el 9 de junio con filtros que redirigían las consultas confidenciales en ciberseguridad, biología, química e investigación de IA a un modelo anterior, Claude Opus 4.8. Estos filtros fueron criticados casi de inmediato por ser demasiado restrictivos.

Según un informe anterior de Cryptopolitan, los usuarios afirmaron que el modelo tenía dificultades con cuestiones básicas de biología relacionadas con las membranas celulares y las vacunas de ARNm.

Otra controversia giró en torno a la ficha técnica de 319 páginas de Anthropic, que indicaba que Fable 5 reduciríamaticla calidad de los resultados para preguntas relacionadas con la investigación de vanguardia en IA sin avisar a los usuarios.

Anthropic modificó esa política el 10 de junio, luego de que investigadores argumentaran que las medidas de seguridad ocultas concentrarían las capacidades de IA en un pequeño grupo de empresas. La compañía se disculpó y afirmó que las futuras medidas de seguridad serían visibles para los usuarios.

Según informó The Verge, Microsoft también restringió el uso de Fable 5 por parte de sus empleados debido al requisito de retención de datos de 30 días de Anthropic para los modelos de la clase Mythos.

Según esa política, las indicaciones y los resultados se almacenan durante 30 días por motivos de confianza y seguridad, mientras que el contenido marcado puede conservarse hasta por dos años.

Anthropic afirma que está trabajando para revertir el cierre

Anthropic afirmó que la medida del gobierno se basó en un malentendido y que está colaborando con las autoridades para resolver el problema. La compañía indicó que proporcionará más información en un plazo de 24 horas.

El cierre se produce en un momento crítico para Anthropic. La compañía presentó documentosdenta principios de este mes para una salida a bolsa prevista en Estados Unidos, tras haber recaudado 65.000 millones de dólares con una valoración de 965.000 millones de dólares a finales del mes pasado, según informó Reuters.

Anthropic se enfrenta ahora a presiones en dos frentes: los reguladores cuestionan la seguridad de sus modelos más avanzados, mientras que los inversores apuestan por su capacidad para seguir aumentando sus ingresos comerciales.

La cuenta oficial de Claude en X informó a los usuarios que las nuevas sesiones ahora usarán por defecto el modelo seleccionado o Opus 4.8. Las sesiones existentes de Fable 5 finalizarán con un error, y se recomendó a los desarrolladores que actualicen sus integraciones a otros modelos de Claude.