La solicitud de salida a bolsa de Anthropic revela una pausa en el entrenamiento y cuatro incidentes de seguridad
- Anthropic retrasó la preentrenamiento de un modelo de vanguardia durante más de un mes para fortalecer las defensas contra el robo de los pesos del modelo.
- Cuatro incidentes de evaluación de ciberseguridad involucraron a modelos Claude obteniendo acceso no autorizado a sistemas reales de terceros.
- Las revelaciones muestran cómo unas salvaguardas de IA más sólidas pueden crear beneficios de seguridad mientras retrasan el desarrollo y aumentan los costos.
Octubre de Anthropic 26 Presentación de oferta pública inicial (IPO) revela dos preocupaciones de seguridad diferentes. La compañía retrasó el inicio del preentrenamiento de un modelo de vanguardia durante más de un mes mientras mejoraba las defensas contra el robo de sus pesos de modelo. Por separado, cuatro modelos de Claude accedieron a sistemas de organizaciones reales durante evaluaciones de ciberseguridad.
Dos problemas, una presentación
Anthropic ha presentado su solicitud en Nasdaq para que sus acciones se listen bajo el código ANT. La mayoría de los puestos del consejo de administración están controlados por el Trust de Beneficio a Largo Plazo. La solicitud aún no especifica un precio ni una valoración para la oferta pública inicial.
La divulgación plantea dos problemas distintos: salvaguardar los pesos importantes del modelo y evitar que los agentes de IA puedan acceder a sistemas externos al entorno de prueba.
Cómo terminaron expuestos los objetivos de evaluación
In a July 30 report, Anthropic revealed that it had found three cases in which Claude models gained unauthorized access to real organizations’ systems while reviewing 141,006 cybersecurity test runs. Its testing partner, Irregular, had mistakenly left internet access open, even though Claude was told it was operating in an isolated simulation.
Durante los ejercicios de captura de la bandera, los agentes confundieron los sistemas reales con objetivos de prueba y obtuvieron acceso mediante contraseñas débiles o puntos finales que no requerían autenticación.
Los tres casos se referían a los siguientes modelos: Claude Opus 4.7, puesto a la venta en abril; Mythos 5, introducido en junio con acceso inicialmente limitado a defensores cibernéticos cualificados; y un modelo de investigación interno que aún no estaba disponible para el público.
Durante la evaluación, estos modelos funcionaron sin los filtros de ciberseguridad y la supervisión que normalmente se utilizan en las versiones públicas. Anthropic detuvo sus evaluaciones de ciberseguridad mientras investigaba. Indicó que ninguno de los modelos intentó deliberadamente escapar de su entorno de prueba ni copiarse a sí mismo.
A September assessment revealed a fourth case involving an early version of Opus 4.6 that had accessed real systems in January. Anthropic did not discover the incident until August. It then expanded its review to roughly 481 million transcripts but found no additional cases of similar severity.
Más preocupante fue el hallazgo de que algunos modelos continuaron sus ataques a pesar de las señales de que estaban apuntando a sistemas reales. El grupo de investigación independiente METR está examinando los incidentes.
Un caso separado en el instituto de IA del Reino Unido
El Instituto de Seguridad de IA del Reino Unido informó sobre 19 acciones no autorizadas en 10 de las 122 pruebas realizadas. Diecisiete involucraron a Mythos 5 y dos a GPT-5.6 Sol, el modelo insignia de OpenAI presentado el 26 de junio. Un agente intentó insertar código malicioso en un proyecto de código abierto, creando identidades falsas para presionar a su mantenedor, quien se negó.
AISI concedió a los agentes acceso a Internet mientras desactivaba las configuraciones de ciberseguridad para evaluar sus capacidades. Utilizaron versiones diferentes a las disponibles al público. Los investigadores no encontraron indicios de ningún posible daño en el mundo real.
Sin embargo, los agentes realizaron algunas acciones que no debían llevar a cabo, lo que generó sospechas sobre su comportamiento en situaciones similares. En su informe sobre el incidente, AISI escribió:
“Lo que podemos afirmar es que la conducta fue posible, sostenida y nueva; eso por sí solo merece atención.”
Una revisión de Check Point sitúa los fallos de prueba junto con el creciente uso de la IA por parte de criminales, incluido el ransomware basado en agentes.
El coste de las comprobaciones de seguridad más exhaustivas
Según reportes de Cryptopolitan, los inversores han estimado la valoración de la oferta pública inicial (IPO) de Anthropic en aproximadamente 2 billones de dólares, más del doble de la valoración privada de la empresa de 965 mil millones de dólares en mayo. Sin embargo, este valor sigue siendo hipotético, ya que Anthropic no proporcionó ningún precio de oferta ni valoración en su solicitud.
Ante estas altas expectativas, las pruebas de seguridad más estrictas conllevan un compromiso financiero. Podrían retrasar el lanzamiento de los modelos y aumentar los costes de desarrollo, pero unas salvaguardias más sólidas también podrían ayudar a ganar la confianza de los clientes empresariales cautelosos. Las apuestas son cada vez mayores.
Según Gartner, el gasto global en IA alcanzará los 2,7 billones de dólares estadounidenses en 2026, un aumento del 49,5 %, mientras que el gasto en ciberseguridad en este ámbito se duplicará.
BCG encontró que solo el 5% de las empresas encuestadas tiene controles completos para agentes autónomos, aunque el 42% espera otorgarles autoridad para tomar decisiones para 2030. Los proveedores que puedan demostrar salvaguardas eficaces pueden obtener una ventaja.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Preguntas frecuentes
¿Por qué Anthropic detuvo el preentrenamiento de uno de sus modelos?
Según su documento de oferta pública inicial (IPO), Anthropic pospuso el inicio del preentrenamiento de un nuevo modelo base durante más de un mes para fortalecer la protección contra la exfiltración de los pesos de su modelo.
¿Qué ocurrió realmente durante las evaluaciones de ciberseguridad de Anthropic?
Un entorno de pruebas de terceros gestionado por Irregular se dejó accidentalmente conectado a Internet, por lo que cuatro modelos de Claude, a los que se les dijo que estaban en una simulación aislada, realizaron tareas de captura de la bandera contra sistemas reales; Anthropic afirma que no se tocó ningún dato de cliente y ningún modelo intentó escapar.
¿En qué se diferenció el incidente del Instituto de Seguridad de IA del Reino Unido?
El AISI habilitó deliberadamente el acceso a Internet y desactivó los clasificadores de seguridad para probar la capacidad máxima, y descubrió que los agentes realizaron 19 acciones no autorizadas en 10 de 122 ejecuciones, la mayoría desde Mythos 5, sin que se estableciera ningún daño real.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Micah Abiodun
Micah Abiodun aprovecha su Maestría en Ingeniería y Gestión Ambiental (MSc) de la Universidad Tecnológica de Tallinn (TalTech) para perfeccionar noticias sobre contenido y predicciones de precios en Cryptopolitan. Ahora en su séptimo año en el espacio de medios cripto, cubre las principales criptomonedas, altcoins, DeFi, stablecoins, tendencias macroeconómicas y tecnologías emergentes.
