Los creadores de modelos de IA piden a los gobiernos que ayuden a financiar la ciberdefensa
- Más de 100 empresas pidieron a los gobiernos que financiaran la ciberdefensa de hospitales y empresas de suministro de agua.
- OpenAI, Anthropic, Google y Microsoft figuran entre los firmantes.
- En julio, un agente de OpenAI escapó de un entorno de prueba y llegó a los sistemas en producción de Hugging Face.
Más de 100 empresas tecnológicas y financieras firmaron una carta abierta el jueves.
Quieren que los gobiernos paguen las ciberdefensas de los hospitales, las empresas de suministro de agua y los organismos locales que no pueden costearlas.
OpenAI, Anthropic, Google y Microsoft figuran entre los firmantes.
Los hospitales y las empresas de suministro de agua necesitan ciberdefensa
La carta, publicada por OpenAI, establece las funciones de todas las organizaciones, proveedores de ciberseguridad, gobiernos y los propios laboratorios de IA de vanguardia.
Hace un llamamiento a los organismos públicos para que coordinen la defensa a nivel local, nacional e internacional, aceleren los programas de acceso seguro a las infraestructuras críticas y financien la ciberdefensa, empezando por los servicios esenciales que carecen del personal o el presupuesto necesarios para actuar
Los firmantes solicitan a los gobiernos que permitan el acceso a la IA defensiva, las pruebas autorizadas y el apoyo práctico a hospitales, empresas de suministro de agua y gobiernos locales. Por su parte, los laboratorios se comprometen a facilitar el acceso a modelos, financiación y capacitación a estos mismos sectores de defensa con recursos limitados.
“En los próximos meses, los ciberataques basados en inteligencia artificial se generalizarán y se volverán mucho más sofisticados a medida que los modelos de todo el mundo adquieran cada vez mayores capacidades”, afirma la carta.
Todo, desde los hospitales hasta las plantas de tratamiento de agua y la infraestructura que alimenta internet, es vulnerable.
CrowdStrike, Okta, Fortinet, Cloudflare y Palo Alto Networks firmaron el acuerdo, al igual que bancos y redes de pago como Citi, Mastercard, Visa y US Bank.
En julio, un agente de OpenAI eludió un entorno de prueba aislado y obtuvo acceso a Hugging Face, tal como Cryptopolitan informó.
Hugging Face alertó al FBI. OpenAI tracla brecha de seguridad hasta su propia plataforma aproximadamente una semana después.
Desde entonces, agentes antrópicos y metaagentes han estado detrás de intrusiones similares reportadas.
El Instituto (AISI) ha realizado 122 ejercicios simulados de ciberseguridad y ha registrado 19 acciones que infringen las normas. Diecisiete de ellas fueron cometidas por Mythos 5 de Anthropic, y las otras dos por GPT-5.6-Sol de OpenAI.
En uno de los casos, un agente escribió código malicioso y creódentfalsas en línea para engañar a un humano y lograr su aprobación.
AISI afirmó que ninguno de losdentcausó daños reales en la vida real.
Daybreak, Mythos y Perception ya están a la venta
Algunos de los laboratorios que firmaron la petición siguen enviando modelos más potentes, precisamente la capacidad que en su carta señalan como la fuente de la amenaza que se avecina.
Cada uno de los principales laboratorios ya tiene un producto para vender en el sector de la defensa. OpenAI tiene Daybreak, Anthropic tiene Mythos y Microsoft ha lanzado una plataforma cibernética llamada Perception.
En la práctica, un aumento repentino de la financiación gubernamental para la defensa de infraestructuras críticas se destinaría a las herramientas que fabrican estas empresas.
La carta describe el momento como una "oportunidad para los defensores" y sostiene que los modelos actuales ofrecen nuevas oportunidades para que los equipos de seguridad subsanen antiguas deficiencias si los líderes actúan con rapidez.
Si estás leyendo esto, ya llevas ventaja. Mantente al día con nuestro boletín informativo.
Preguntas frecuentes
¿Quiénes firmaron la carta abierta sobre ciberdefensa?
Más de 100 empresas firmaron el acuerdo, entre ellas laboratorios de IA como OpenAI, Anthropic, Google y Microsoft, empresas de ciberseguridad como CrowdStrike, Okta y Fortinet, e instituciones financieras como Citi, Mastercard y Visa.
¿Qué les piden las empresas a los gobiernos?
La carta solicita a los gobiernos que coordinen la ciberdefensa a nivel local, nacional e internacional y que la financien, comenzando por los servicios esenciales como hospitales, empresas de suministro de agua y gobiernos locales que carecen del personal o el presupuesto necesarios para protegerse.
¿Por qué es relevante el momento en que se envió la carta?
Se basa endentreales en los que agentes de IA irrumpieron en sistemas en funcionamiento, incluido un agente de OpenAI que llegó a los sistemas de Hugging Face en julio y 19 acciones que infringieron las normas y que el Instituto de Seguridad de la IA de Gran Bretaña registró por parte de agentes de OpenAI y Anthropic durante las pruebas.
Aviso legal. La información proporcionada no constituye asesoramiento comercial. Cryptopolitanconsultar no se responsabiliza de las inversiones realizadas con base en la información proporcionada en esta página. Recomendamostronencarecidamente realizar una investigación independientedent un profesional cualificado antes de tomar cualquier decisión de inversión.
Randa Moisés
Randa Moses es editora y reportera en Cryptopolitan donde cubre temas de tecnología, IA, robótica, criptomonedas, estafas y hackeos. Trabaja en el sector de las criptomonedas desde 2017 y ha ocupado cargos en Forward Protocol, AmaZix y Cryptosomniac. Randa es ingeniera eléctrica ytronpor la Universidad de Bradford.
