OpenAI insta a un marco global de seguridad para la IA mientras las tensiones entre EE. UU. y China se intensifican

OpenAI dice que la IA necesita la misma regulación que la energía nuclear y quiere que EE. UU. inicie la creación de un regulador global para gestionarla. 

Como informó Cryptopolitan, esto ocurre mientras el presidente Trump viaja a Pekín para la primera visita de estado de EE. UU. a China en nueve años, durante la cual se esperaba que la política de IA estuviera en la agenda.

Según Chris Lehane, vicepresidente de Asuntos Globales de OpenAI, que Trump y Xi estén en la misma sala es una oportunidad rara para que las dos naciones construyan algo duradero para la IA.

“La IA, en cierto nivel, trasciende muchos de los problemas comerciales tradicionales o prevalentes. Hay una oportunidad para realmente comenzar a construir algo a nivel global, y que países de todo el mundo, incluida China, participen potencialmente,” dijo Chris Lehane durante una sesión informativa.

¿Qué es OpenAI y por qué su opinión sobre la política global es importante?

OpenAI es la empresa estadounidense que desarrolló ChatGPT, un popular asistente de IA/chatbot utilizado por cientos de millones de personas todos los días.

La empresa siempre ha participado en todos los grandes debates sobre sistemas de IA potentes. Su CEO, Sam Altman, suele reunirse con jefes de estado para discutir la IA e incluso testificar ante el Congreso, lo que le da a la empresa una influencia significativa sobre la política global de IA.

OpenAI también está en una disputa legal separada después de que el CEO de Tesla, Elon Musk demandara a la empresa en 2024. Musk es uno de los fundadores originales de OpenAI, y afirma que Sam Altman y otros ejecutivos fueron contra la misión sin fines de lucro de la empresa y la convirtieron en una organización con fines de lucro. 

El juicio aún está en curso, pero la historia más grande de esta semana está ocurriendo en Pekín.

¿Qué propuso OpenAI y cuál es la comparación con la OIEA?

El Vicepresidente de Asuntos Globales de OpenA, Chris Lehane, propuso vincular dos cosas para crear algo nuevo.

Quiere que el Centro para Estándares e Innovación de IA del Departamento de Comercio de EE. UU. y los institutos de seguridad de IA se unan y construyan una red global. Utilizó el Organismo Internacional de Energía Atómica (OIEA) como ejemplo de cómo los países conectaron sus reguladores nucleares en un solo organismo general. 

El Centro para Estándares e Innovación de IA del Departamento de Comercio de EE. UU. es una oficina gubernamental que crea estándares técnicos para sistemas de IA. 

Al mismo tiempo, los países están estableciendo institutos de IA en todo el mundo. Por ejemplo, el Reino Unido tiene uno, la UE está desarrollando marcos y varios gobiernos asiáticos también están trabajando en organismos similares. 

Lehane dijo que un organismo unificado para la IA ayudará a construir sistemas más seguros y resilientes, menos susceptibles a ataques. También quiere que el gobierno de EE. UU. haga obligatorio que los investigadores del país prueben los modelos de IA más potentes antes de implementarlos. 

¿Qué es el modelo Mythos y por qué inquieta tanto a Washington como a Pekín?

Mythos es un nuevo y potente modelo de IA que encontró “miles” de vulnerabilidades importantes en sistemas operativos y otro software. Anthropic (la empresa de seguridad de IA respaldada por Google y Amazon) desarrolló Mythos.

La escala de lo que Mythos puede hacer sorprendió al mundo mientras bancos y gobiernos se apresuraban a arreglar sus defensas de seguridad después del anuncio. Funcionarios de la Casa Blanca incluso reconocieron que modelos como Mythos hicieron que la comunicación con China fuera más importante que nunca. 

China quedó excluida del acceso anticipado a una vista previa de Mythos, lo que generó preocupaciones sobre la capacidad de los desarrolladores y el gobierno del país para defenderse contra ataques que utilizan el modelo de IA. 

La firma de inteligencia de mercado IDC China incluso advirtió que dejar fuera a China de Mythos podría crear una “brecha generacional” en las capacidades de defensa de IA entre China y Occidente. 

Según investigadores, los atacantes podrían usar IA avanzada para diseñar bioweapons, provocar choques financieros o actuar de forma autónoma sin control humano. La parte más aterradora es que la IA solo necesita ser poderosa, rápida y apuntar en la dirección incorrecta para hacer todas estas cosas. 

¿Qué ocurrió en la reunión Trump-Xi y de qué hablaron?

La delegación de EE. UU. a China incluyó al CEO de Nvidia, Jensen Huang, y al principal asesor de política tecnológica de la Casa Blanca, Michael Kratsios. Su presencia en el viaje convirtió la reunión en una prioridad y un asunto urgente, ya que ambas partes llegaron preparadas para discutir directamente los temas de IA. 

China propuso un diálogo formal sobre temas de IA, liderado por el Secretario del Tesoro Scott Bessent y el Vice Ministro de Finanzas chino, Liao Min. Pero las expectativas para este canal son bajas porque ninguna agencia se especializa en IA.

EE. UU. también planeó plantear preocupaciones sobre que los desarrolladores chinos estuvieran utilizando salidas de modelos de IA avanzados para construir sistemas a un fracción del costo, pero con menos salvaguardas de seguridad.

Ambas partes también discutieron la posibilidad de establecer una línea directa sin culpas para reportar incidentes sospechosos impulsados por IA, similar a las líneas directas militares.

Los analistas incluso sugirieron que ambos gobiernos podrían comprometerse con salvaguardas para modelos de IA de frontera, similar al Acuerdo de Ciberseguridad de EE. UU.-China de 2015.

Finalmente, las discusiones también podrían tocar el MATCH Act, una ley propuesta de EE. UU. que tiene como objetivo limitar el acceso de China a las cadenas de suministro de semiconductores. 

Sun Chenghao de la Universidad de Tsinghua participó en las charlas de IA entre EE. UU. y China y dijo que EE. UU. debería trazar una línea clara entre gestionar los riesgos de seguridad de la IA y simplemente intentar bloquear el desarrollo tecnológico de China. 

“China probablemente espera que EE. UU. distinga apropiadamente entre la gobernanza de la IA y el containment tecnológico,” dijo Sun Chenghao.