Fuente: PexelsAnthropic está cada vez más cerca de su implementación a nivel federal después de que el gobierno de EE. UU. comenzara a prepararse para otorgar acceso a una versión de su modelo Mythos a las principales agencias.
Bloomberg informó el jueves que el plan ya está en marcha, a pesar de que a los funcionarios dentro y fuera de Washington les preocupa que la herramienta pueda aumentar los riesgos de ciberseguridad si no se controla estrictamente.
Cryptopolitan informó previamente que Mythos está limitado a grupos selectos y está destinado a tareas de ciberseguridad defensiva, no a un uso comercial generalizado. Gregory Barbaccia, director de información federal de la Oficina de Administración y Presupuesto de la Casa Blanca, comunicó a funcionarios del Gabinete en un correo electrónico el martes que la OMB estaba implementando medidas de protección para que las agencias pudieran comenzar a usar Mythos.
Según se informa, el asunto del mensaje era "Acceso al modelo Mythos" y decía lo siguiente:
“Estamos colaborando estrechamente con los proveedores del modelo, otros socios de la industria y la comunidad de inteligencia para garantizar que se implementen las salvaguardias y medidas de protección adecuadas antes de publicar una posible versión modificada del modelo a las agencias.”
La Casa Blanca abre la puerta mientras Anthropic Mythos se dirige hacia el uso por parte de las agencias
Ese mensaje llegó mientras los ministros de finanzas, los banqueros centrales y los reguladores se encontraban en Washington para las reuniones de primavera del FMI y el Banco Mundial, donde altos funcionarios financieros advirtieron que la IA avanzada de las empresas tecnológicas estadounidenses podría exponer los puntos débiles de las defensas cibernéticas de los prestamistas y ejercer presión sobre el sistema bancario en general.
Andrew Bailey, gobernador del Banco de Inglaterra y presidente del Consejo de Estabilidad Financiera, declaró: «Es un reto muy serio para todos nosotros. Nos recuerda la rapidez con la que avanza el mundo de la IA»
Andrew afirmó entonces que los reguladores de todo el mundo tendrían que evaluar rápidamente el riesgo cibernético que la herramienta Claude Mythos Preview de Anthropic podría suponer para el sistema financiero.
Dan Katz, subdirector del FMI, declaró: «La evolución de la tecnología digital plantea enormes riesgos desde la perspectiva de la ciberseguridad. Este tema será absolutamente esencial en la agenda internacional durante los próximos meses»
Christine Lagarde,dent del Banco Central Europeo, también señaló a Anthropic y Mythos como un ejemplo de cómo una herramienta útil puede volverse peligrosa en las manos equivocadas.
“La evolución que hemos visto con Anthropic y Mythos es un buen ejemplo de una empresa responsable que de repente piensa: 'Ah, esto podría ser realmente bueno', pero si cae en las manos equivocadas, podría ser realmente malo.”
Funcionarios globales presionan para que se establezcan reglas mientras Anthropic limita Opus 4.7
Algunos funcionarios pidieron una respuesta internacional coordinada después de que Anthropic dijera a principios de este mes que Mythos había encontrado "miles de vulnerabilidades de alta gravedad, incluidas algunas en todos los principales sistemas operativos y navegadores web"
Anthropic también advirtió que este tipo de capacidades podrían propagarse rápidamente y no permanecer en manos seguras. La compañía afirmó que “no pasará mucho tiempo antes de que dichas capacidades proliferen, potencialmente más allá de los actores comprometidos con su despliegue seguro”. Añadió: “Las consecuencias para las economías, la seguridad pública y la seguridad nacional podrían ser graves”
Christine declaró posteriormente a la prensa que los funcionarios desean un marco de trabajo adecuado, pero que aún no existe un sistema de gobernanza sólido. Añadió: «Todos anhelan un marco de actuación. No creo que exista un marco de gobernanza diseñado específicamente para abordar estas cuestiones. Debemos trabajar en ello»
Pip White, directora de Anthropic para el Reino Unido, Irlanda y el norte de Europa, afirmó que el interés de los ejecutivos aumentó rápidamente tras la noticia sobre el modelo. En una entrevista, Pip declaró: «Estamos implementando nuestras propias medidas de seguridad y limitaciones para este producto porque sabemos lo potente que puede llegar a ser»
El jueves, Anthropic también lanzó Opus 4.7, un nuevo modelo diseñado para mejorar su desempeño en tareas de ingeniería de software. La compañía afirmó que Opus 4.7 puede realizar algunas tareas de codificación que antes requerían una supervisión más estricta, seguir instrucciones con mayor precisión que los modelos anteriores e inspeccionar imágenes de alta resolución para detectar detalles en gráficos densos e imágenes complejas.
Aun así, Anthropic afirmó que Opus 4.7 tiene menos capacidades que Mythos, incluso en casos de uso cibernético. Durante el entrenamiento, la compañía indicó que probó métodos para reducir de forma diferencial la capacidad cibernética del modelo.
