Los creadores de modelos de IA piden a los gobiernos que ayuden a financiar la ciberdefensa
- Más de 100 empresas han solicitado a los gobiernos que financien la defensa cibernética de hospitales y servicios de agua.
- OpenAI, Anthropic, Google y Microsoft están entre los firmantes.
- Un agente de OpenAI logró salir de un entorno de pruebas en julio y accedió a los sistemas en vivo de Hugging Face.
Más de 100 empresas tecnológicas y financieras firmaron una carta abierta el jueves.
Quieren que los gobiernos paguen por las defensas cibernéticas de hospitales, servicios de agua y agencias locales que no pueden permitírselas.
OpenAI, Anthropic, Google y Microsoft están entre los firmantes.
Los hospitales y los servicios de agua necesitan ciberdefensa
La carta, alojada por OpenAI, establece los roles para todas las organizaciones, proveedores de ciberseguridad, gobiernos y los propios laboratorios de IA de vanguardia.
Insta a los organismos públicos a coordinar la defensa a nivel local, nacional e internacional, a acelerar los programas de acceso de confianza para la infraestructura crítica y a «financiar la ciberdefensa, comenzando por los servicios esenciales que carecen del personal o el presupuesto para actuar».
Los firmantes quieren que los gobiernos permitan el acceso a la IA defensiva, pruebas autorizadas y apoyo práctico para hospitales, servicios de agua y gobiernos locales. Por su parte, los laboratorios se comprometen a proporcionar acceso a modelos, financiación y capacitación para los mismos defensores con menos recursos.
«En los próximos meses, los ciberataques habilitados por la IA se volverán mucho más generalizados y sofisticados a medida que los modelos de todo el mundo se vuelvan cada vez más capaces», dice la carta.
Todo, «desde hospitales hasta plantas de tratamiento de agua hasta la infraestructura que alimenta Internet», es vulnerable.
Firmaron CrowdStrike, Okta, Fortinet, Cloudflare y Palo Alto Networks, así como bancos y redes de pago como Citi, Mastercard, Visa y U.S. Bank.
En julio, un agente de OpenAI eludió un entorno de prueba aislado y obtuvo acceso a Hugging Face, como informó Cryptopolitan.
Hugging Face alertó al FBI. OpenAI rastreó la brecha hasta sí misma una semana después.
Desde entonces, los agentes de Anthropic y Meta han estado detrás de similares informes de intrusiones.
El Instituto de Seguridad de IA del Reino Unido Instituto (AISI) ha realizado 122 ejercicios simulados de ciberseguridad y registrado 19 acciones que violan las normas. 17 de ellas correspondieron a Mythos 5 de Anthropic, y las otras dos a GPT-5.6-Sol de OpenAI.
En uno de los casos, un agente escribió código malicioso y creó identidades en línea falsas para engañar a un humano y que lo aprobara.
El AISI dijo que ninguno de los incidentes causó daños en la vida real.
Daybreak, Mythos y Perception ya están a la venta
Algunos de los laboratorios que firmaron el apelativo aún están enviando modelos más potentes, la misma capacidad que su carta nombra como la fuente de la amenaza próxima.
Cada uno de los principales laboratorios ya tiene un producto para vender en defensa. OpenAI tiene Daybreak, Anthropic tiene Mythos y Microsoft ha lanzado una plataforma cibernética llamada Perception.
En la práctica, un aumento de la financiación gubernamental para la defensa de la infraestructura crítica iría a las herramientas que construyen estas empresas.
La carta describe el momento como una «ventana para los defensores» y sostiene que los modelos actuales ofrecen nuevas oportunidades para que los equipos de seguridad cierren viejas brechas si los líderes actúan rápidamente.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Preguntas frecuentes
¿Quién firmó la carta abierta sobre defensa cibernética?
Más de 100 empresas firmaron, incluidos los laboratorios de IA OpenAI, Anthropic, Google y Microsoft, empresas de ciberseguridad como CrowdStrike, Okta y Fortinet, e instituciones financieras entre las que se incluyen Citi, Mastercard y Visa.
¿Qué están pidiendo las empresas a los gobiernos?
La carta solicita a los gobiernos que coordinen la defensa cibernética a nivel local, nacional e internacional y que la financien, comenzando por servicios esenciales como hospitales, servicios de agua y gobiernos locales que carecen del personal o el presupuesto para protegerse.
¿Por qué es notable el momento de la carta?
Esto sucede tras incidentes reales en los que agentes de IA accedieron a sistemas en vivo, incluido un agente de OpenAI que llegó a los sistemas de Hugging Face en julio y 19 acciones que violaron las normas registradas por el Instituto de Seguridad de la IA de Reino Unido procedentes de agentes de OpenAI y Anthropic durante las pruebas.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Randa Moses
Randa Moses es editora y reportera en Cryptopolitan, donde cubre tecnología, IA, robótica, criptomonedas, estafas y ciberataques. Ha trabajado en el espacio de las criptomonedas desde 2017. Ocupó cargos en Forward Protocol, AmaZix y Cryptosomniac. Randa posee un grado en Ingeniería Eléctrica y Electrónica de la Universidad de Bradford.
