Agencias federales se alinean para Anthropic Mythos mientras la Casa Blanca alivia el enfrentamiento
Fuente: Pexels
- La Casa Blanca está preparando salvaguardas para que las principales agencias federales puedan comenzar a utilizar una versión modificada de Anthropic Mythos.
- Funcionarios financieros globales advirtieron que las últimas herramientas de IA de Anthropic podrían exponer defensas cibernéticas débiles en todo el sistema bancario.
- Anthropic indicó que Mythos encontró miles de vulnerabilidades graves en los principales sistemas operativos y navegadores web.
Anthropic se acerca a un despliegue federal después de que el gobierno de EE. UU. comenzara a prepararse para otorgar acceso a una versión de su modelo Mythos a las principales agencias.
Bloomberg informó el jueves que el plan ya está en marcha, mientras que funcionarios dentro y fuera de Washington se preocupan de que la herramienta pueda aumentar los riesgos de ciberseguridad si no está estrictamente controlada.
Cryptopolitan informó anteriormente que Mythos está limitado a grupos selectos y está destinado al trabajo de ciberdefensa, no al uso comercial generalizado. Gregory Barbaccia, director de información federal de la Oficina de Gestión y Presupuesto de la Casa Blanca, dijo a los funcionarios de los departamentos del Gabinete en un correo electrónico del martes que la OMB estaba estableciendo protecciones para que las agencias pudieran comenzar a usar Mythos.
Según se informa, el asunto del mensaje era
“Estamos trabajando estrechamente con los proveedores de modelos, otros socios de la industria y la comunidad de inteligencia para garantizar que las medidas de protección y salvaguardas adecuadas estén en su lugar antes de posiblemente lanzar una versión modificada del modelo a las agencias.”
La Casa Blanca abre la puerta a medida que Anthropic Mythos se dirige hacia el uso por parte de agencias
Este mensaje llegó mientras los ministros de finanzas, los banqueros centrales y los reguladores estaban en Washington para las reuniones de primavera del FMI y el Banco Mundial, donde altos funcionarios financieros advirtieron que la IA avanzada de las empresas tecnológicas de EE. UU. podría exponer puntos débiles en las defensas cibernéticas de las entidades crediticias y ejercer presión sobre todo el sistema bancario.
Andrew Bailey, gobernador del Banco de Inglaterra y presidente del Consejo de Estabilidad Financiera, dijo:
Andrew luego dijo que los reguladores de todo el mundo necesitarían evaluar rápidamente el riesgo cibernético que Anthropic’s Claude Mythos Preview podría representar para el sistema financiero.
Dan Katz, subdirector del FMI, dijo: “La evolución de la tecnología digital está planteando riesgos inmensos desde la perspectiva de la ciberseguridad. Esto será absolutamente esencial en la agenda internacional durante los próximos meses.”
Christine Lagarde, presidenta del Banco Central Europeo, también señaló a Anthropic y Mythos como un caso en el que una herramienta útil puede volverse peligrosa en manos equivocadas.
“El desarrollo que hemos visto con Anthropic y Mythos es un buen ejemplo de una empresa responsable que de repente piensa: ‘ah, eso podría ser realmente bueno’, pero si cae en manos equivocadas, podría ser realmente malo.”
Funcionarios globales presionan por reglas mientras Anthropic limita Opus 4.7
Algunos funcionarios pidieron una respuesta internacional coordinada después de que Anthropic dijera a principios de este mes que Mythos había encontrado
Anthropic también advirtió que capacidades como estas pueden propagarse rápidamente y no permanecer en manos seguras. La empresa dijo que “no pasaría mucho tiempo antes de que tales capacidades se proliferen, potencialmente más allá de los actores comprometidos con su despliegue seguro”. Añadió: “Las consecuencias para las economías, la seguridad pública y la seguridad nacional podrían ser graves.”
Christine dijo más tarde a los periodistas que los funcionarios quieren un marco dentro del cual trabajar, pero aún no hay un sistema de gobernanza real listo. Dijo:
Pip White, directora de Anthropic para el Reino Unido, Irlanda y el norte de Europa, dijo que el interés de los ejecutivos aumentó rápidamente después de las noticias sobre el modelo. En una entrevista, Pip dijo: “Estamos estableciendo nuestras propias salvaguardas y limitaciones alrededor de este producto porque sabemos lo poderoso que puede ser.”
El jueves, Anthropic también lanzó Opus 4.7, un nuevo modelo diseñado para mejorar en tareas de ingeniería de software. La empresa dijo que Opus 4.7 puede manejar parte del trabajo de codificación que antes requería una supervisión más cercana, seguir instrucciones mejor que los modelos anteriores e inspeccionar imágenes de mayor resolución para detectar detalles en gráficos densos e imágenes complejas.
Aun así, Anthropic dijo que Opus 4.7 es menos capaz que Mythos, incluido en casos de uso cibernético. Durante el entrenamiento, la empresa dijo que probó formas de
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Jai Hamid
Jai Hamid ha estado cubriendo criptomonedas, mercados bursátiles, tecnología, la economía global y los eventos geopolíticos que afectan a los mercados durante los últimos 6 años. Ha trabajado con publicaciones centradas en blockchain, incluidas AMB Crypto, Coin Edition y CryptoTale, en análisis de mercado, grandes empresas, regulación y tendencias macroeconómicas. Se graduó en la London School of Journalism y ha compartido tres veces sus conocimientos sobre el mercado de criptomonedas en una de las principales cadenas de televisión de África.
