El Bundesbank de Alemania advierte que Mythos expondrá puntos débiles en el software bancario europeo

Hablando en Roma el martes, el presidente del Bundesbank de Alemania, Joachim Nagel, advirtió a Europa sobre el modelo Mythos de Anthropic y dijo que no debería permanecer en manos de un pequeño grupo de grandes empresas estadounidenses.

Joachim dijo que las empresas e instituciones europeas que podrían verse afectadas por la tecnología deberían tener permitido probarla también, y rápido. De esa manera, pueden juzgar tanto las ventajas como los peligros en igualdad de condiciones, según él.

Joachim también es miembro del Consejo de Gobierno del Banco Central Europeo, y dijo que para Alemania, el problema radica en si se pide a los bancos europeos que defiendan sistemas que ni siquiera tienen permitido inspeccionar completamente.

Alemania dice a los bancos y reguladores europeos que obtengan acceso antes de que Mythos exponga más fallos

Joachim dijo: “El uso de la IA en el sector financiero abre la puerta a nuevos y sofisticados riesgos cibernéticos, ya que los agentes de IA autónomos podrían exhibir comportamientos dañinos. La identificación temprana y la mitigación de dichos riesgos son cruciales para la estabilidad financiera.”

El banquero central describió Mythos como un modelo que parece capaz de encontrar y utilizar rápidamente agujeros de seguridad en el software utilizado por las instituciones financieras. También dijo que el modelo funciona en ambos sentidos. Puede ayudar a reforzar las defensas digitales, pero también puede usarse para atacar esos mismos puntos débiles. Joachim dijo: “Debemos prevenir el mal uso de esta tecnología”. También dijo: “Al mismo tiempo, todas las instituciones relevantes deberían tener acceso a dicha tecnología para evitar distorsiones competitivas.”

Dijo que Europa entra en la era de la IA con algunos puntos fuertes, pero aún va detrás de Estados Unidos y, en varias áreas, de China.

Joachim señaló que las instituciones de EE. UU. construyeron 40 modelos de IA “avanzados” en 2024, mientras que China hizo 15, y Europa hizo literalmente solo 3.

También dijo que la inversión privada en IA en EE. UU. alcanzó los $109.1 mil millones, mientras que China estaba en $9.3 mil millones y Europa en $19.4 mil millones, y añadió que el menor gasto privado de China se compensa con una fuerte apoyo gubernamental, con una inversión estatal en IA estimada en $62 mil millones.

En comparación, la inversión gubernamental en IA fue de aproximadamente $3.3 mil millones en Estados Unidos y de aproximadamente $1.2 mil millones en la Unión Europea.

Anthropic firma un acuerdo de $100 mil millones con Amazon mientras la empresa sigue imparable

Mientras tanto, solo ayer, Anthropic publicó un comunicado en el que decía que firmó un nuevo acuerdo que profundizará la colaboración existente y asegurará hasta 5 gigavatios de capacidad para el entrenamiento y despliegue de Claude. Dijo que la nueva capacidad de Trainium2 estará operativa en la primera mitad de este año, y que casi 1 gigavatio de capacidad total de Trainium2 y Trainium3 debería estar operativa para finales de 2026.

Anthropic (que aún está pasando por un boicot de la administración Trump en este momento) dijo que ha trabajado estrechamente con Amazon (un cercano aliado personal de Trump) desde 2023, y que más de 100,000 clientes ahora ejecutan Claude en Amazon Bedrock.

La empresa dijo: “Juntos lanzamos el Proyecto Rainier, uno de los clústeres de computación más grandes del mundo, y actualmente utilizamos más de un millón de chips Trainium2 para entrenar y servir a Claude.”

Bajo el nuevo acuerdo, la empresa dijo que se compromete a invertir más de $100 mil millones durante los próximos diez años en tecnologías de AWS. Esto cubre Graviton y chips desde Trainium2 hasta Trainium4, con la opción de comprar generaciones posteriores del silicio personalizado de Amazon cuando estén disponibles.

Anthropic dijo que la capacidad principal de Trainium2 llegará en el segundo trimestre, se espera una capacidad escalada de Trainium3 más adelante este año, y el acuerdo también expande la inferencia en Asia y Europa para servir a la creciente base de clientes de Claude. La empresa añadió que seguirá eligiendo a AWS como su principal proveedor de entrenamiento y nube para cargas de trabajo críticas.

Andy Jassy dijo: “Nuestro silicio personalizado para IA ofrece alto rendimiento a un costo significativamente menor para los clientes, por lo que está en tan alta demanda.”

Andy también dijo: “El compromiso de Anthropic de ejecutar sus modelos de lenguaje grandes en AWS Trainium durante la próxima década refleja el progreso que hemos logrado juntos en silicio personalizado, mientras continuamos entregando la tecnología y la infraestructura que nuestros clientes necesitan para construir con IA generativa.”